古墳時代には畿内から古墳文化が到達し、東北地方でも古墳が造られた。古墳が集中している地域は仙台平野や会津地方・山形県内陸部などの東北地方南部となっている。また、奈良盆地に起源があるとみられる前方後円墳も造られ、ヤマト王権との交流がすでに始まっていたと考えられている。東北地方最大の前方後円墳は、宮城県名取市にある雷神山古墳である。宮城県北部・秋田県以北（山形県庄内地方が含まれるとする説もある）では末期古墳が分布する[注釈 5]。なお、東北北部の青森県域では続縄文文化が持続し、古墳は小規模な終末期古墳に限られている。
古代
大和時代

古代に入ると、ヤマト王権と奥羽越地域（東北地方と新潟県）の諸勢力との関係は、古墳時代までの緩い地域連合のレベルから、徐々に中央集権的な都と地方という関係に移行していく。

畿内政権側から見た古代の東北地方と、現新潟県の米山峠以東（中越地方・下越地方・佐渡島）は「未征服地」であり、畿内政権に服従しない異民族「蝦夷（えみし）」が住んでいるとされた（蝦夷の住んでいた範囲には諸説ある）。以降、古代から中世にかけて、畿内政権側の征服戦争と、東北地方（特に奥六郡）の独立や半独立の動きの中で、征夷軍と蝦夷軍が衝突し、東北地方の歴史は作られていった。
飛鳥時代多賀城
（宮城県多賀城市）

7世紀中期?後期に、天皇を中心とした強力な官僚制が志向されるようになると、それまでの地方豪族が国造として独自に支配していた地方分権体制から、中央集権体制へと国家体制が大きく変化した。

この流れの中で、7世紀半ばに、太平洋側の現在の福島県から宮城県中部辺りまでと、山形県の南部（置賜郡）と中部（最上郡）が畿内政権側に服従し、常陸国から分離される形で道奥国（みちのく。後に陸奥国）が設置された。この地域は、古墳時代に前方後円墳が幾つも造られた地域である（7世紀の内に、宮城県内は平定された）。

日本海側では、すでに新潟県上越地方（頸城郡）まで征服したヤマト王権と越国（こしのくに）の連合軍が、「柵（き）」と呼ばれる前線基地を築きながら北進する。まず、大化3年（647年）に渟足柵（現在の新潟市中心部）、さらに大化4年（648年）に磐舟柵（現在の岩船郡、村上辺り）を設置し、日本海沿岸を次々と越国に組み入れていった。斉明天皇4年（658年）になると、越国守であった阿倍比羅夫が、180艘の軍船を率いてさらに日本海沿岸を北上し、「鰐田（あぎた）の浦」（現在の秋田市周辺?）から津軽地方へと到った（日本書紀）。これが蝦夷征討なのか武装交易船団なのかは定説がない。少なくともこの阿倍水軍は斉明天皇4年（658年） - 斉明天皇6年（660年）の間に3度来航し、交易をして帰っている。その後、畿内政権と同盟関係にあった百済が新羅の侵攻を受けたため、阿倍水軍もその戦列に加わり東北日本海側への遠征は中断された。

律令制整備が進み、中央集権国家として確立してくると、さらに地方の支配体制の整備も進んだ。朝廷軍は、北進して庄内地方に達し、現在の酒田の最上川河口部辺りに出羽柵を設置。越国（こしのくに）が越前国・越中国・越後国の3ヶ国に分割されると、和銅元年9月28日（708年11月14日）、庄内地方に出羽郡が設置され、越後国に組み入れられた。この出羽郡は、和銅5年9月23日（712年10月27日）に越後国から分立して出羽国になり、後に陸奥国から置賜郡と最上郡を譲られて、沿岸国だった出羽国は内陸部を得る（国府は現在の酒田市の北東部にある城輪柵遺跡に設置されたと考えられている）。
奈良時代秋田城
（秋田県秋田市）

養老4年（720年）に発生した蝦夷の反乱（征夷将軍・多治比縣守により鎮圧）後、養老8年/神亀元年（724年）東北太平洋側に多賀城が築かれ、南東北は朝廷側の支配体制に完全に組み込まれた。さらに北進した朝廷軍は、天平5年（733年）に出羽柵を秋田高清水岡（現在の秋田城跡）に移した。ただし、現在の秋田県の領域では、沿岸部のみが支配下に入っただけで、内陸部はやや緩い支配だった。737年（天平9年）大野東人により多賀城から出羽柵への連絡通路が開削された。

北東北では、北上山地で太平洋と隔絶され、多賀城からも離れている現在の岩手県内の北上川流域（＝奥六郡、日高見国）、および、秋田県の横手盆地などが蝦夷の勢力域として残り、その後の朝廷（多賀城）との抗争に続いていく。

宝亀11年（780年）の光仁天皇の時に伊治呰麻呂が反乱を起こし、多賀城を奪った。