JR東日本の駅は各路線の線路とホームはほぼ南北方向に伸びているが、成田新幹線計画の名残である地下の京葉線ホームのみ他線と遠く離れ[16] ほぼ東西方向に伸びている（後述）。出入口は東西南北に設けられており、西側を丸の内口、東側を八重洲口、北東側を日本橋口、南側を京葉地下出口と称している。

東西の駅舎を連絡する改札内通路は北・中央・南の3本があり、それぞれの通路に対応して丸の内側・八重洲側それぞれの地上に3か所の改札口がある。丸の内中央口は元は皇室専用だったため北口・南口に比べ小さい（現在は別に皇室用の出入口と貴賓室がある）[17]。丸の内側の地下3か所と八重洲中央口の地下にも改札口があり、丸の内側は東京メトロ丸ノ内線や丸ビル・新丸ビル方面へ、八重洲側は八重洲地下街方面へ通じる。

また、丸の内側と八重洲側を改札外でつなぐ北側自由通路（1階・地下1階）があり、南側自由通路（地下1階）は2029年に開通予定である[報道 4]。日本橋口は唯一改札の外から新幹線乗り場に直接入ることができる。

在来線の構内は非常に広い。1階は改札内（駅ナカ）商業施設が充実している。長年、地下1階はコインロッカーが多く商業施設が少なかったが、2007年10月25日にJR東日本の商業施設「グランスタ」がオープンした[報道 5]（2020年8月3日に「グランスタ東京」としてリニューアル開業[18][報道 6][報道 7][報道 8]）。駅コンコースにはJR東日本の管轄エリアも多く、それらの店舗やレストランなどでは電子マネーとして、Suicaおよびこれと相互利用可能な交通系ICカードが利用できる。対して、新幹線の構内はあまり広くなく、商業施設はホーム上にほぼ限られている。

「グランスタ」開業に合わせて、八重洲地下中央口の改札内にある待ち合わせ場所として有名な「銀の鈴」のリニューアル[※ 12]が行われ、1階と地下1階を結ぶエスカレーターが新設された。

駅長（兼 常務執行役員）・助役配置の直営駅で、京葉線の八丁堀駅と越中島駅を管理する。新幹線乗換口（中央・南とも。乗換窓口・精算所業務を含む）、丸の内地下北口、京葉地下丸の内口、日本橋口の業務はJR東日本ステーションサービスに委託している。なお、丸の内地下南口と京葉地下八重洲口はお客さまサポートコールシステム導入により、終日無人となっている[15]。

日本橋口改札（2021年11月）

新幹線北乗換改札（2021年9月）

新幹線南乗換改札（2021年10月）

丸の内北口改札（2021年9月）

丸の内中央口改札（2021年9月）

丸の内南口改札（2021年9月）

八重洲北口改札（2021年11月）

八重洲中央口改札（2021年9月）

八重洲南口改札（2021年9月）

丸の内地下北口改札（2021年11月）

丸の内地下中央口改札（2021年10月）

丸の内地下南口改札（2021年10月）

グランスタ地下北口改札（2021年11月）

八重洲地下中央口改札（2021年11月）

京葉地下丸の内改札（2021年10月）

京葉地下八重洲口改札（2021年10月）

北側自由通路（2021年9月）

石碑（2007年5月）

ホーム
在来線高架ホーム（1 - 10番線）
島式5面10線の高架ホームで、丸の内側から1・2・3…と順に振られている。中央線の1・2番線は3・4番線のさらに上、3階相当の高さにあり、2番線の直下に3番線がある。1・2番線はホームの両端は階段、それ以外は長いエスカレーターとホーム中央にあるエレベーターでコンコースと結んでいるが9・10番線のエレベーターのみ地下1階まで結んでいる。9・10番線は南側のエレベーターが2つ設置されている。3 - 6番線（山手線・京浜東北線）にはホームドアが設置されている。5・6番線有楽町方の駅事務室前には、開業当時からの面影を残すハルトゥング支柱（de:Hartungsche Saule）様の鋳鉄製の柱が2本、設置されている。柱は高さ2.6メートル、柱周470ミリメートル、下部には「明治四十一年一月 株式会社東京堅鉄製作所」と刻印されている。また、一部の屋根と柱は木造である。2014年度に改修工事が行われ、老朽化が進んでいた開業時からの柱14本を含む約103メートル分が新しい屋根に置き換えられた[新聞 3]。9・10番線ホーム屋根には屋根材一体型のソーラーパネルが設置され、発電した電気を東京駅の照明や空調機の電力として活用している。また、発電状況を駅構内4か所の発電量表示モニターで確認できる[報道 9]。

1・2番線ホーム（2021年7月）

3・4番線ホーム（2021年9月）

5・6番線ホーム（2021年7月）

7・8番線ホーム（2021年7月）

9・10番線ホーム（2021年7月）

中央本線0キロポスト（2005年2月）

東海道本線・東北本線0キロポスト（2009年3月）

新幹線ホーム（20 - 23番線）
島式2面4線の高架ホームである。このうち20番線は10番線のすぐ東にある。当初、東北・上越新幹線が当駅に延伸した際は現22・23番線（当時12・13番線）の島式1面2線のみで発着し、一部の定期列車と臨時列車は上野駅発着を原則としていた。しかし、1997年10月1日の北陸新幹線高崎駅 - 長野駅開業に伴い1・2番線を高架化した上で3 - 10番線を丸の内側にスライドする工事を行い、当時9・10番線（東海道線）だったホームを20・21番線とし、現在の2面4線の構造になるとともに定期列車の全列車と臨時列車の大半が当駅発着になった。1日300本を超える列車をこの2面4線ホームで扱っている。各ホームに中央改札と各ホームを結ぶエレベーターが8号車付近に設置されている。直接改札内に入れる改札口は八重洲北側の日本橋口改札口のみ。

20・21番線ホーム（2021年9月）

22・23番線ホーム（2021年9月）

総武地下ホーム（総武地下1 - 4番線）
島式2面4線の地下ホームで、地下5階に位置する。中央通路を丸の内側へずっと向かった階段の先にのりばがあり、東京メトロ丸ノ内線との乗り換えは比較的近いが、京葉線との改札内乗り換えは遠い。このホームと下記の京葉地下ホームは地上・高架ホームとは番線番号が通しではない。ホームへはエレベーターまたは長いエスカレーターを使用することになる。ホームがある東京トンネルの区間の保安設備は2004年2月にATC-5型からATS-Pに更新されている。ATS-P対応車両であればこの地下ホームへの発着が可能である。このホームは構造上、地下水上昇問題がある。

1・2番線ホーム（2021年7月）

3・4番線ホーム（2021年7月）

総武地下通路（2021年11月）

京葉地下ホーム（京葉地下1 - 4番線）
島式2面4線の地下ホームで、地下4階に位置する。新幹線八重洲南乗り換え口脇から南に約500 mの所、鍛冶橋通りの地下（有楽町駅との中間点）にあり、ホームは東西に伸びる。地下3階には総武地下通路のように通路があり、皇居よりの都道402号地下では横須賀線シールドトンネルが駅躯体を横断する。