235年、アレクサンデル・セウェルス帝が軍の反乱によって殺害されたことでセウェルス朝は断絶し、以後ローマ帝国は軍人皇帝時代と呼ばれる混乱期に突入していく。
混乱と分裂詳細は「3世紀の危機」を参照

いわゆる「元首政」の欠点は、元首を選出するための明確な基準が存在しない事である。そのため、地方の有力者の不服従が目立つようになり行政が弛緩し始めると相対的に軍隊が強権を持ったため、反乱が増加し皇帝の進退をも左右した。約50年間に26人[注釈 1]が皇帝位に就いたこの時代は軍人皇帝時代と称される。

パクス・ロマーナ（ローマの平和）により、戦争奴隷の供給が減少して労働力が不足し始め、代わりにコロヌス（土地の移動の自由のない農民。家族を持つことができる。貢納義務を負う）が急激に増加した。この労働力を使った小作制のコロナートゥスが発展し始めると、人々の移動が減り、商業が衰退し、地方の離心が促進された。

284年に最後の軍人皇帝となったディオクレティアヌス（在位：284年-305年）は混乱を収拾すべく、帝権を強化した。元首政と呼ばれる、言わば終身大統領のような存在の皇帝を据えたキメの粗い緩やかな支配から、オリエントのような官僚制を主とする緻密な統治を行い専制君主たる皇帝を据える体制にしたのである。これ以降の帝政を、それまでのプリンキパトゥス（元首政）に対して「ドミナートゥス（専制君主制）」と呼ぶ。またテトラルキア（四分割統治）を導入した。四分割統治は、二人の正帝（アウグストゥス）と副帝（カエサル）によって行われ、ディオクレティアヌス自身は東の正帝に就いた。強大な複数の外敵に面した結果、皇帝以外の将軍の指揮する大きな軍団が必要とされたが、軍団はしばしば中央政府に反乱を起こした。テトラルキアは皇帝の数を増やすことでこの問題を解決し、帝国は一時安定を取り戻した。

ディオクレティアヌスは税収の安定と離農や逃亡を阻止すべく、大幅に法を改訂、市民の身分を固定し職業選択の自由は廃止され、彼の下でローマは古代から中世に向けて、外面でも内面でも大きな変化を開始する。

ディオクレティアヌスが305年に引退した後、テトラルキアは急速に崩壊していった。混乱が続く中、西方副帝だったコンスタンティヌス1世が有力となり、324年には唯一の皇帝となった。コンスタンティヌス1世は専制君主制の確立につとめる一方、東のサーサーン朝ペルシアの攻撃に備えるため、330年に交易ルートの要衝ビュザンティオン（ビザンティウム。現在のトルコ領イスタンブール）に遷都して国の立て直しを図った。この街はコンスタンティヌス帝の死後にコンスタンティノポリス(コンスタンティヌスの街)と改名した。コンスタンティヌスの死後、北方のゲルマン人の侵入は激化、特に375年以降のゲルマン民族の大移動が帝国を揺さ振ることとなった。378年には皇帝ウァレンスがハドリアノポリスの戦い（ゴート戦争）でゴート族に敗死した。
キリスト教の浸透

帝政初期に帝国領内のユダヤ属州で生まれたイエス・キリストの創始したキリスト教は、徐々に信徒数を増やしてゆき、2世紀末には帝国全土に教線を拡大していた。ディオクレティアヌス退位後に起こった内戦を収拾して後に単独の皇帝となるコンスタンティヌス1世（大帝。在位：副帝306年-、正帝324年-337年）は、当時の東帝リキニウスと共同で、313年にミラノ勅令を公布してキリスト教を公認した。その後もキリスト教の影響力は増大を続け、ユリアヌス帝による異教復興などの揺り戻しはあったものの、後のテオドシウス1世（在位：379年-395年）のときには国教に定められ、異教は禁止されることになった（392年）。394年には、かつてローマの永続と安定の象徴とされ、フォロ・ロマーノにありローマの建国期より火を絶やすことのなかったウェスタ神殿のウェスタの聖なる炎も消された。
帝国の衰退
帝国の分裂テオドシウス1世没後、395年のローマ帝国の分割。両者の国境線は黒線にて表示 (白線は現代の国境線)   西ローマ帝国   東ローマ帝国

コンスタンティヌス1世の没後、帝国では再び分担統治が行われるようになった。テオドシウス1世も、395年の死に際して長男アルカディウスに東を、次男ホノリウスに西を与えて分治させた。当初はあくまでもディオクレティアヌス時代の四分割統治以来、何人もの皇帝がそうしたのと同様に1つの帝国を分割統治するというつもりであったのだが、これ以後帝国の東西領域を実質的に一人で統治する支配者は現れなかった。もっとも3世紀後半以降、東西の皇帝権が統一されていた期間は僅かに20年を数えるのみであり、経済的な流通も2世紀前半以降はオリーブなどのかつての特産品が各地で自給され始めるにつれ乏しくなり、また自由農民が温存された東方に対して西方ではコロナートゥスが増大するなど、東西の分裂は早い段階から進行していた。今日では以降のローマ帝国をそれぞれ西ローマ帝国、東ローマ帝国と呼び分ける。ただし、史料などからは当時の意識としては別々の国家に分裂したわけではなく、あくまでもひとつのローマ帝国だった事が窺える。
西ローマ帝国詳細は「西ローマ帝国」を参照

ディオクレティアヌス帝以降、皇帝の所在地は首都ローマからミラノ、後にラヴェンナに移っていた。西ローマ帝国の皇帝政権はゲルマン人の侵入に耐え切れず、イタリア半島の維持さえおぼつかなくなった末、476年ゲルマン人の傭兵隊長オドアケルによってロムルス・アウグストゥルス（在位：476年）が廃位され西方正帝の地位が消滅した。その後もガリア地方北部にはシアグリウスが維持するソワソン管区がローマ領として存続したが、486年にゲルマン系新興国メロヴィング朝フランク王国のクローヴィス1世による攻撃を受け消滅した。旧西ローマ帝国の版図であった領域に成立したゲルマン系諸王国の多くは、消滅した西の皇帝に替わって、全ローマ帝国の皇帝となった東の皇帝の宗主権を仰ぎ、ローマ皇帝に任命された西ローマ帝国の地方長官として統治を行った。したがって、現代人的認識では西方正帝の消滅後にローマ帝国とは別のゲルマン系諸王国が誕生したかのように見える西欧の地も、同時代人的認識としては依然として「ローマ帝国」を国号とする西ローマ帝国のままであり、ゲルマン系諸王はローマ帝国の官人としてローマ帝国の印璽を用い、住民達もまた自分たちのことを単に「ローマ人」と呼び続けていた[12]。
東ローマ帝国東ローマ帝国の最大進出域   550年（ユスティニアヌス1世）   1025年（バシレイオス2世）詳細は「東ローマ帝国」を参照

東ローマ帝国（395年-1453年）は、首都をコンスタンティノポリスとし、15世紀まで続いた。中世の東ローマ帝国は、後世ビザンツ帝国あるいはビザンティン帝国と呼ばれるが、正式な国号は「ローマ帝国」のままであった。この国は古代末期のローマ帝国の体制を受け継いでいたが、完全なキリスト教国であり、また徐々にギリシア的性格を強めていった。

東ローマ帝国は、軍事力と経済力を高めてゲルマン人の侵入を最小限に食い止め、またいくつかの部族に対して西へ行くよう計らった。西ローマ帝国における西方正帝の消滅後、東ローマ帝国の皇帝が唯一のローマ皇帝として、名目上では全ローマ帝国の統治権を持った。

東ローマ帝国による帝国の再建は何度か試みられ、実際に5世紀のレオ1世や12世紀のマヌエル1世の様に、アフリカやイタリア征服を試みた皇帝もいた。6世紀のユスティニアヌス1世によるものは一定の成功を収め、地中海の広範な地帯が再びローマ皇帝領となった。ユスティニアヌスは、ローマ法の集大成であるローマ法大全の編纂でも知られている。

ユスティニアヌス没後は混乱と縮小の時代に入り、7?8世紀にかけイスラム帝国やスラヴ人などの侵入により領土が大幅に縮小した。統治体制は再編を余儀なくされ、テマと呼ばれる軍閥制が敷かれた。ラテン語が使用されていた帝国西方との隔絶は公用語のギリシャ語化（7世紀）を促し、8世紀にはローマやラヴェンナを含む北イタリア管区を失い、また、西欧に対する影響力も低下した。