1889年（明治22年）、仙台城址にあった陸軍第2師団と広瀬川を挟んで対岸に位置する片平丁の旧陸軍省用地に校舎が完成（片平校舎）。のちに、東北帝大法文学部設置にあたって校地を提供して、1925年（大正14年）に北六番丁に移転した（北六校舎）。1945年（昭和20年）7月の仙台空襲で校舎が焼失した後は、仙台市南部の旧仙台陸軍幼年学校の校舎として使用されていた三神峯校舎に移転。新制東北大学への包括後、三神峯校舎は第一教養部富沢分校として引き継がれ、1958年（昭和33年）まで使用されたのち市内川内地区への統合移転により廃止された（現在は三神峯公園となっている）。

設立当初の旧片平校地は東北大学片平キャンパスとして継承され現在に至る。構内には書庫および旧物理学教室など二高時代の建造物が残る。東北大学正門の近くに、当時の位置に移設された二高の校門を中心にして、第二高等学校片平記念苑がある。記念苑は、尚志同窓会が1996年に整備した。校門は校舎の移転とともに移り、廃止後しばらく市立博物館に保存されてから、最初の位置に戻った[1]。

また明善寮も三神峯に移転したものの建物自体は引き続き東北大学の学生寮として継承された。

旧北六校地は、新制東北大農学部のキャンパス（雨宮キャンパス）として継承され現在に至る。同構内には旧二高以来の守衛所が現在も使用されており、旧制二高関連のモニュメントが多数建立されている。
著名な出身者
政治

井上準之助 - 大蔵大臣、日本銀行総裁

児玉秀雄 - 内務大臣、文部大臣 / 児玉源太郎の子息

芳沢謙吉 - 外務大臣

結城豊太郎 - 大蔵大臣、日本銀行総裁

伍堂卓雄 - 商工大臣、鉄道大臣、農林大臣

田子一民 - 衆議院議長、農林大臣

武富済 - 衆議院議員、元検察官

内ヶ�ｱ作三郎 - 衆議院副議長、評論家

守屋栄夫 - 初代塩竈市長、衆議院議員

相川勝六 - 厚生大臣、厚生次官、内務官僚。

小日山直登 - 運輸大臣、南満洲鉄道総裁

渋沢敬三 - 大蔵大臣、日本銀行総裁

鈴木義男 - 司法大臣