島式ホーム4面8線を有する地上駅で、橋上駅舎を有している。相互直通運転している関係でJR東日本・東京臨海高速鉄道で駅舎・改札内・ホーム・着発線を共用している。
鉄道資産としてはJR東日本・東京臨海高速鉄道の折半所有であり[7]、両社の財産境界は5 - 8番線の途中に設定されている。TWRりんかい線とJR大崎支線が共に記された終点標が設置されている。ただし駅管理はJR東日本が行っており[8]、駅名標など案内サインはJR東日本タイプのものが使用されている。また、すべての着発線がJR東日本東京圏輸送管理システムの運行管理下にあり、駅務においてもJR東日本首都圏本部が社員を配置して行っている。管理駅として五反田駅の管理も行っている[1]。
架空電車線への電力供給は通常JR東日本から行われる。万一JRから給電できなくなった場合に備えて東京臨海高速鉄道から6・7番線に供給できる電線を設けている。そのため、りんかい線はJR線の給電状況に関わらず当駅を含む自社線内の通常運行が継続できる仕組みである。 駅舎は、五反田寄りに北改札口、品川寄りに南改札口を持ち、両コンコースは「Dila大崎」を介してつながっている。品川寄りのコンコースからのJR山手線ホームへのエスカレーターは、設置位置のホームが狭いために1人用である。また、北改札口からの出口は東口と西口が、南改札口からの出口は新東口と新西口があり、東口及び新東口にはゲートシティ大崎などへ、新西口にはThinkParkなどへのペデストリアンデッキがつながっている。 自動精算機でTWR線の乗車券の精算を行うことは可能。精算にはかつてのパスネット（現在は発売終了）は使用できなかった。自動券売機はJR線用のものとTWR線用のものが別に設置されている。なお、乗車券の地紋はJR東日本のもので発行される。 JR東日本が営業していたみどりの窓口では、当駅発着のりんかい線の普通乗車券・往復乗車券・定期乗車券も発売していた。 番線路線方向行先備考 （出典：JR東日本:駅構内図
通路
設備
のりば
1・2 山手線内回り品川・東京・上野方面
3・4外回り渋谷・新宿・池袋方面
5 湘南新宿ライン南行横浜・大船・小田原・逗子方面
相鉄線直通下り羽沢横浜国大・海老名方面
りんかい線上り新木場方面[9][10]主に 埼京線からの直通
6・7 埼京線北行新宿・池袋・赤羽・大宮方面6番線はごく一部のみ
りんかい線上り新木場方面[9][10]主に当駅折り返し
8一部列車のみ
埼京線北行新宿・池袋・赤羽・大宮方面
湘南新宿ライン大宮・宇都宮・高崎方面
山手線
電車の保守整備を担当するJR東日本東京総合車両センター（東総セ）が隣接している。このため山手線電車で当駅始発・終点となる設定がある（山手線#運行形態を参照）。
1番線ホームの線路の品川寄りの一番反対側には、詰所に直結する運転士交代用のホームが設置されている。
主に1・3番線を使用する。2・4番線は東京総合車両センターに出入りする電車が使用する。2012年12月22日より、1・3番線のみ可動式ホーム柵の使用が始まった[11]。
環状運転列車は当駅で列車番号を変更する。
りんかい線
主に線内折り返し（新木場方面行き）列車は6・7番線から、埼京線からの乗り入れは5・6番線から発車する。
駅構内自動放送では、線内折り返し・埼京線からの乗り入れを問わず、「りんかい線直通」とアナウンスされる。
埼京線
主に7・8番線から発車する。
駅構内自動放送では、「埼京線」「川越線」とはアナウンスされず、種別と行先のみアナウンスされる。
湘南新宿ライン・相鉄線直通列車
武蔵小杉駅方面を発着する列車は通常5・8番線のみに発着し、6・7番線は埼京線・りんかい線専用として運用・案内されているが、配線上・有効長上、武蔵小杉駅方面と6・7番線間も連絡可能であり、埼京線や湘南新宿ラインの運転見合わせ時や大幅なダイヤ乱れ時などの緊急時に使用されることがある。工事などで計画的に恵比寿駅方面への運行を全面的に見合わせる場合は、5・6番線をりんかい線、7・8番線を湘南新宿ライン・相鉄線直通列車（武蔵小杉駅方面）のそれぞれ折り返しホームとして使用する。
湘南新宿ライン北行については当駅を境に種別案内を変更する列車がある。高崎線直通の快速列車は当駅から先では各駅に停車するため、当駅から北では「普通」として案内される。逆に、宇都宮線直通の普通列車で大宮 - 小山駅間を快速運転する列車については、当駅から北では「快速」として案内される。
相鉄線直通列車は当駅でJRとしての路線記号が切り替わる。当駅から新宿方面は埼京線の「JA」、武蔵小杉方面は湘南新宿ラインの「JS」を用いる。また、湘南新宿ライン同様、当駅を境に種別案内を変更する上り列車があり、埼京線の赤羽 - 武蔵浦和（通勤快速は大宮）間を快速運転する列車については、当駅で「各駅停車」から種別表記を切り替える。
