歴史上、日本の首都は、天皇の住まいである皇居の所在によって定められた。古墳時代以降は、皇居のための宮殿（御所）建設と周辺の市街地整備を一体として行い、首都にふさわしい都市を計画的に建設するようになった。

宮殿や貴族の邸宅であっても、奈良時代までは基本的に掘立柱建築だったため、建物の耐用年数が短かかった。同じ掘立柱建築である伊勢神宮の遷宮は20年に1回である。

古代の頻繁な遷都や宮殿の移転・新築は、政治的な思惑の他にも建築物の耐用年数の影響が考えられる。中国風の都市計画を持ち込んだ藤原京・平城京・平安京などでは、計画的な庶民の居住を促しても、家が掘立柱建築だったために、地下水位の高い低湿地や河川の氾濫原は居住に適さないとして放棄され、いずれも当初の計画とは異なる都市へと変化した。

飛鳥宮（飛鳥時代）以前に、首都に相当する都城は存在しない。 奈良時代に編まれた記紀によれば、歴代大王の宮室が磯城 ・磐余（奈良県桜井市）のほか、難波 ・河内地方（大阪府）などに複数営まれたため、各々の宮室を中心に萌芽的な都邑が形成されていたことも考えられる。しかし、その具体的な遺構は未発見である。記紀に見える宮室については、「歴代の皇居」を参照。

なお、飛鳥 - 奈良時代には、首都機能を経済 ・交通の面で補完する第二首都とも言うべき副都（陪都）が設けられていた時期があった（複都制）。例としては、最初にこの制度を採用した天武天皇の難波宮を始め、淳仁天皇の「北京」保良宮（滋賀県大津市、761年 - 764年）、称徳天皇の「西京」由義宮（大阪府八尾市、769年 - 770年）が知られている。保良宮と由義宮は短命に終わったが、難波宮は長岡京遷都まで副都の地位を保ち続けた。

平安時代末の福原京を首都とみなせるか否かについては近年議論がある[12]。首都否定論の立場からは、『平家物語』などの文学作品に語られる「福原遷都」の実態については、平氏政権が和田（神戸市）方面への遷都を目的として福原に行宮を置いたに過ぎず、それによって平安京が従来の首都機能を失った様子も特に見られないことから、建前はどうあれ、福原は京都の機能を軍事・貿易面で補完する事実上の副都に留まった、とする主張がある[13]。実際、福原への遷都宣言が出されたことはなく、行宮滞在中も行事は京都で行われている上、遷都計画が頓挫した後は、京都を首都とする方針が政権中枢にて決定されている。これに反し、福原には八省院や官衙の整備計画も持ち上がったが、結局実行されなかった（『玉葉』治承4年7月16日条・8月4日条・11日条・29日条）。

南北朝時代（1336年 - 1392年）は、「正平一統」（1351年 - 1352年）の短期間を除き平安京が北朝の首都である。ただし、南朝の本拠は全て行宮、すなわち仮の拠点として扱われ、正式な首都は平安京と見なしていたと推測される。

日清戦争中の1894年には、広島県広島市に明治天皇が行幸して、大本営も移った。帝国議会も開催されるなど、一時的に首都機能が移転し、臨時首都の様相を呈した。

都市名現在の地名期間主な天皇副都、その他
樟葉宮（くすば）（大阪府枚方市）507年 - 511年継体天皇
筒城宮（つつきのみや）（京都府京田辺市）511年 - 518年継体天皇
弟国宮（おとくにのみや）（京都府長岡京市）518年 - 526年継体天皇
磐余玉穂宮（いわれのたまほのみや）（奈良県桜井市）526年 - 532年継体天皇
勾金橋宮（まがりのかなはし）（奈良県橿原市）532年 - 535年宣化天皇
檜隈廬入野宮（ひのくまのいおりの）（奈良県桜井市）535年 - 539年宣化天皇
磯城島金刺宮（しきしまのかなさしのみや）（奈良県明日香村）540年 - 571年欽明天皇橘の宮（橘寺）
百済大井宮（大阪府河内長野市・奈良県広陵町・大阪府富田林市・奈良県桜井市など諸説あり）572年 - 575年敏達天皇
訳語田幸玉宮(おさたのさきたまのみや)（奈良県桜井市）575年 - 585年敏達天皇
磐余池辺雙槻宮（奈良県磯城郡）585年 - 587年用明天皇