分割民営化によって国鉄がJR東日本に衣替えした後の1987年7月には、運輸省、学識経験者、JR東日本などによって「新幹線・在来線直通運転調査委員会」が組織され、ミニ新幹線の誘致合戦が激化していた中、対象線区として福島駅 - 山形駅間がモデル線区として正式に決定された[10]。同年、運輸省はミニ新幹線を含む在来線活性化事業を政府予算案概算要求に盛り込み、同年12月の大蔵省原案には入らなかったが、年末の復活折衝で1988年度予算案に国の補助金1億7000万円が盛り込まれることが決定した。この際には、山形選出で運輸政務次官や自民党運輸部会長を歴任した当時同党総務局長であった鹿野道彦（のち離党）が、ミニ新幹線構想を「新幹線事業」ではなく「在来線活性化事業」と位置付け、運輸省や大蔵省を説いて回った[新聞 2][新聞 3]。

国の補助金決定を受け、1988年4月に山形新幹線建設事業の推進母体として資本金90億円で山形ジェイアール直行特急保有が設立され、同年8月には山形駅前で起工式が挙行された。山形新幹線建設工事は大規模な全面改軌工事であり、しかも一部バス代行輸送のところもあったが、福島駅 - 山形駅間を営業しながらの作業という難工事であった。しかし、既設の設備を最大限利用することによって、工事費の削減と工事期間の短縮がはかられたというメリットは大きかった[11]。新幹線建設工事が進捗すると、停車駅の立地する地方自治体も新幹線開通に併せ駅舎を改築あるいは新築しようとの機運が高まり、停車駅の全てが新造されたほか、駅周辺の整備も進められた[12]。

べにばな国体夏季大会を前にした1992年7月1日、約4年の工期を経て、山形新幹線は開業した。事業費は630億円で、内訳は、地上357億円、車両273億円であった[9]。
新庄延伸へ

1993年7月、山形県は山形新幹線の新庄駅への延伸を翌年度における重要事業として推し進めることを決定し、1994年1月、県、沿線市町村、民間団体の結束によって「山形新幹線新庄延伸推進会議」が発足した。加えて同年9月には県からの呼びかけで、県、国、JR東日本、学識経験者による「山形県在来線高速化委員会」が設立された[13]。しかしJR東日本は、山形駅 - 新庄駅間（約61キロメートル）の特急利用者が1日往復2千人という赤字路線であったため延伸に慎重な姿勢であった[新聞 4]。だが、1997年2月、県の外郭団体である財団法人山形県観光開発公社（現：公益社団法人山形県観光物産協会）が建設費など351億円をJR東日本に無利子で貸し付け、同社は返済を10年間据え置いた後、10年で償還するという異例のスキームの提示によって開業が決定した[新聞 4]。

同年7月31日には、県から地域振興プロジェクト名目で協調融資を打診された山形銀行、荘内銀行、殖産銀行、山形しあわせ銀行および山形県信用農業協同組合連合会、新庄信用金庫がシンジケート団を組成し、延伸事業資金の6割に相当する208億5千万円を用立て、これに県の補助金を併せ建設費など351億円を捻出している。資金調達は地元銀行4行（当時）の競争と低金利を背景に県が有利に進めた[新聞 5]。

1997年5月1日から延伸工事は着手され[14]、標準軌化工事と共にJR東日本と沿線自治体は山形駅 - 新庄駅間に79か所あった踏切を跨線橋等の設置によって約半分の41か所まで減らしたほか、駅の改築、移設も進めた[13]。加えて各駅にはパーク&ライド用の無料駐車場を全体計画で約3000台分を設置した[15]。

1999年12月4日、2年半の工期を経て山形新幹線は新庄駅まで延伸開業した。これにより、新幹線列車の停車駅数は山形県内に10か所となり、都道府県別で最多となった[注 4]。
年表東京駅 - 福島駅間の東北新幹線区間は「東北新幹線#沿革」を参照

1988年

4月：山形新幹線建設事業の推進母体として山形ジェイアール直行特急保有株式会社を設立。

8月25日：山形駅前で起工式を挙行。


1990年

夏頃：奥羽本線改軌工事開始。

11月14日：庭坂駅 - 板谷駅間で400系の試運転を開始。


1992年（平成4年）

5月9日：福島駅構内でレール締結式[新聞 6]。

7月1日：開業[新聞 7]。東北新幹線東京駅 - 山形駅間の直通運転開始[新聞 7]。400系営業運転開始（東北新幹線内は多くの列車で200系「やまびこ」と併結）[新聞 7]。6両編成[新聞 7]。


1995年（平成7年）12月1日：中間車1両を増結して7両編成化[新聞 8]。

1997年（平成9年）5月1日：山形駅 - 新庄駅間の延伸工事に着手[14]。

1999年（平成11年）

4月29日：東北新幹線内の併結車両にE4系（Maxやまびこ）が加わる。

12月4日：山形駅 - 新庄駅間が延伸開業。E3系1000番台投入。山形新幹線で使用されていた400系（左）と1999年に投入されたE3系1000番台（右）。2007年2月24日、新庄駅。


2001年（平成13年）

1月4日：大雪の影響で、開業以来初めての終日運休。

9月21日：東北新幹線内の併結車両が200系からE4系（Maxやまびこ）に統一。


2007年（平成19年）3月18日：健康増進法第25条により全車両の禁煙を実施。

2008年（平成20年）12月20日：E3系2000番台運転開始。

2010年（平成22年）4月18日：400系営業運転終了。

2011年（平成23年）

3月11日：東北地方太平洋沖地震（東日本大震災）が発生。地震直後から全線で運転を見合わせ。

3月31日：福島駅 - 新庄駅間の運転再開となる。ただし、福島駅では在来線ホームへの乗り入れとなった（4月11日まで）[報道 1]。

4月7日：東北地方太平洋沖地震の余震により再び全線運休。

4月11日：全線運転再開、翌12日には東北新幹線乗り入れ再開。ただし東北新幹線内もE3系単独編成での運転。

4月25日：東北新幹線内の併結運転が再開。

7月9日：福島駅までの減速運転解消に伴うダイヤ改正により、震災前の本数・所要時間に戻される。