現代の東京都の領域は、令制国の武蔵国の一角である。郡においては、東京特別区は豊島郡(中心部)、荏原郡、足立郡の一部、下総国葛飾郡の一部に相当する。多摩地方は多麻郡となっていた。近世初期に、葛飾郡のうち、隅田川から利根川(現代の江戸川下流)の間が、下総国から分離されて武蔵国に編入された。武蔵国は、現在の東京都全域だけでなく、埼玉県全域と神奈川県東北部を含む広い版図であるが、国府と国分寺はそれぞれ現在の府中市と国分寺市にあった。当初の武蔵国は、五畿七道では東山道に属していたが、771年に東海道所属に変更された。
延喜式神名帳には足立郡に氷川神社(名神大社)、多磨郡に小野神社(一宮)、阿伎留神社、青渭神社等が見えるが、後世武蔵国総社とされた大國魂神社や、東京の神社として著名な神田明神や日枝神社の名は見えない。
かなり古い時代から渡来人が住んでいたようで、亀塚古墳のある狛江郷(狛江市周辺)は高句麗に由来するとされ、他にも渡来人に纏わる伝承は多い。武蔵野の開発は渡来人の潅漑技術による所が大きいとされる。
中世には武蔵七党と呼ばれる武士団が興り、関東に進出した畿内の河内源氏の家人となった。源平合戦では豊島氏、足立氏、葛西氏らが活躍している。12世紀には豊島郡江戸郷の名が見え、この地を本拠とする江戸氏も興った。14世紀には、新田義貞が鎌倉幕府軍を破った分倍河原の戦いが知られる。
戦国時代には扇ヶ谷上杉氏の家宰であった太田氏が台頭し、江戸城を築いた太田道灌が武蔵国の掌握に力を注いだが暗殺され、小田原城を拠点とする後北条氏が武蔵国に進出する。北条氏政の弟・北条氏照は八王子城を築き、西方の甲斐国の武田氏に備えた。その後北条氏も、豊臣秀吉の小田原攻めによって滅んだ。
後北条氏が滅んだ後、東海地方から甲信を支配していた徳川家康が、関東地方(武蔵国を含むほとんど全部)への領地替えとなり、駿府城(旧静岡市)から江戸城に入る。やがて関ヶ原の戦いに勝利した家康は、1603年3月24日(旧暦2月12日)に江戸幕府を開き、江戸時代が到来する。ここに、首都は京都でありながら、江戸は行政庁所在地となる。幕府を開いた家康は進んで鷹狩りをやり、白金御殿などの御殿も造られた。江戸は人口の急増とともに町が拡大していき、18世紀初頭には人口100万人を超える世界有数の大都市(一説によると当時世界一)へと発展を遂げていた。5代将軍徳川綱吉の時代には現在の23区内唯一の喜多見藩があったが、数年で消滅に至ってしまう。
1867年11月9日(慶応3年旧暦10月14日)の徳川慶喜による大政奉還と1868年1月3日(慶応3年旧暦12月9日)の王政復古のクーデターによって江戸幕府が崩壊し、同年5月3日(慶応4年(明治元年)旧暦4月11日)の江戸城開城によって江戸は新政府の支配下に入った。6月30日(旧暦5月11日)、新政府は江戸府を設置し、9月3日(旧暦7月17日)に江戸が東亰(後に東京)と改称されると、江戸府も東京府と改称された。1869年に明治天皇が皇居(旧の江戸城)に入ると、名実共に、東京は近代日本の首都となった(首都を京都から東京へ移す遷都令はなく、東京を首都とする法的根拠もない、という意見もある)。