중세 유럽에서 제국이라는 개념은 고대 로마 제국의 유산을 계승하고 기독교 신앙 아래 보편적인 통치권을 행사하려는 정치적 이상과 밀접하게 연관되어 있었다. 로마 제국의 멸망 이후 유럽인들은 기독교 공동체를 수호하고 통일된 질서를 유지할 강력한 군주를 필요로 했으며, 이를 '제권 이전(Translatio imperii)'이라는 논리로 정당화했다. 중세의 제국은 단순한 영토적 지배를 넘어 신의 대리인으로서 세상을 다스리는 신성한 권위를 상징했다.

중세 유럽 제국의 실질적인 시작은 프랑크 왕국의 카롤루스 대제 시기로 본다. 서기 800년, 교황 레오 3세는 카롤루스 대제에게 서로마 황제의 관을 씌워주며 그를 기독교 세계의 수호자로 공인했다. 카롤루스 제국은 게르만 전통과 로마 문명, 그리고 기독교를 하나로 통합하여 서유럽의 문화적 기틀을 마련했다. 비록 이 제국은 카롤루스 사후 분열되었으나, 이는 훗날 프랑스, 독일, 이탈리아 등 현대 유럽 국가들의 모태가 되는 역사적 전환점이 되었다.

카롤루스 제국의 붕괴 이후, 제국의 명맥은 962년 오토 1세에 의해 성립된 신성 로마 제국으로 이어졌다. 독일 왕이 교황으로부터 황제 대관을 받으며 시작된 이 제국은 중세 유럽에서 가장 오래 지속된 정치 체제 중 하나였다. 그러나 신성 로마 제국은 중앙 집권적인 통치 체제를 갖추기보다 여러 영방 국가들의 느슨한 연합체 형식을 취했다. 또한, 황제권과 교황권 사이의 끊임없는 대립과 협력을 통해 중세 특유의 이원적 권력 구조를 형성했다.

동유럽에서는 비잔티움 제국이 로마 제국의 정통성을 직접적으로 계승하며 천년 이상 존속했다. 콘스탄티노폴리스를 수도로 삼은 비잔티움 제국은 고대 그리스와 로마의 문화를 보존하고 정교회를 국교로 삼아 독자적인 제국 질서를 구축했다. 이들은 이슬람 세력의 서구 진출을 막아내는 방파제 역할을 수행하는 동시에, 서유럽과는 다른 전제적인 황제 통치 체제를 유지하며 중세 유럽의 또 다른 축을 담당했다.

중세 말기로 접어들면서 제국의 보편주의적 이상은 점차 쇠퇴하기 시작했다. 프랑스와 영국 같은 영역 국가들이 국왕 중심의 중앙 집권화를 추진하며 강력한 주권 국가로 성장함에 따라, 황제의 권위는 상대적으로 위축되었다. 1453년 비잔티움 제국의 멸망과 더불어 신성 로마 제국이 명목상의 지위로 전락하면서, 중세적 제국의 시대는 가고 주권과 영토를 기반으로 하는 근대적 국가 체제의 시대가 도래했다.