同時期には、ドイツ帝国の帝国鉄道の会計が陸軍省によって研究され[16]、1897年（明治30年）には逓信省鉄道局は監督行政のみを受け持つことになり、現業部門は逓信省外局の鉄道作業局に分離された。

他方1901年（明治34年）には、外交官だった幣原喜重郎がベルギーの状況を官報に報告した。報告によれば、アンウェルス市街鉄道は馬車鉄道から電気鉄道に切替えて他重要都市へ延長する計画が成立し、民間会社が1945年（昭和20年）までの営業を認可され、また、その契約内容には、学生及び労働者を保護するための低運賃、労働条件（賃金、昇給、休憩時間、保険）、会社は「市と県」に毎年一定額を納付すること、営業開始から15年目以降は国が好条件で事業を買収（国営化）し得ること、また買収額の計算方法が規定されている[17]。
帝国鉄道庁動輪マーク（1909年制定）

鉄道事業は逓信省外局の鉄道作業局へ全て移管されてからも、鉄道敷設法及び、北海道鉄道敷設法、事業公債条例などによって運営されていたが、1906年（明治39年）に帝国議会で鉄道国有法及び帝国鉄道会計法が成立し[18]、1907年（明治40年）3月に勅令の帝国鉄道庁官制が公布され、同年4月1日に鉄道作業局を改組した帝国鉄道庁が設置され、帝国鉄道が開業した[2][14]。

次いで逓信省は、「帝国鉄道庁は民事訴訟に付き国を代表す」、「帝国鉄道庁ニ多度津工場増置」など法規を公布して、土地収用及び路線増設を進めた[19]。

この鉄道の運営には当初から特別会計が設置されていたが（西園寺公望内閣）、さらに1909年（明治42年）には帝国鉄道会計法の全部改正により、資金不足の際は帝国鉄道会計の負担による公債発行、または他特別会計からの借入れを行い得るようになった（第2次桂内閣）[20]。

1909（明治42）年度予算によれば、同年の国の歳入予定は3億2,053万4,132円であったところ[21]、この鉄道は1908（明治41）年度までの2年間で建設及び改良費として6268万4226円を支出しており、1909年（明治42年）から1913年（大正2年）までの5年間の支出予定は1億180万6584円で、年間予算のうちの6 %から18 %以上を帝国鉄道事業が占めていたことが分かる[22]。なお、帝国鉄道の他に、外地であった中国関東州（南満洲鉄道）や朝鮮（朝鮮総督府鉄道）の鉄道事業の予算もかかっている。
鉄道院鉄道院 組織図（1920年）

相次ぐ鉄道行政の所管変更、監督組織と現業組織の分離による混乱は、1906年の鉄道国有化をきっかけに社会問題となった。このため政府は1908年12月5日、鉄道局と帝国鉄道庁を統合した鉄道院を新設し、再び内閣の直属機関とした（第2次桂内閣）[2]。

初代総裁は後藤新平であり、その下に総裁官房と総務・運輸・建設・計理の4部と鉄道調査所が置かれた。北海道（北海道および青函航路所管・札幌）、東部（東北線所管・上野）、中部（東海道線および中央線所管・新橋）、西部（山陽線・四国および関門・関釜航路所管、神戸）、九州（九州所管・門司）に鉄道管理局が設置され、各地の運輸事務所と保線事務所（その後一時廃止され1913年復活）、工場などを統括した。このほか関東庁および拓殖局とともに南満洲鉄道（満鉄）の監督権も所管し、同社の鉄道事業に関して監督した。

その後数次の官制改正によって、1913年に4部の技術部・運輸局・監督局・経理局への再編、1915年に鉄道管理局区域の一部見直し（東管、中管、西管の局界変更）[23][24]、1918年に建設局の新設を行った。また1919年5月1日には鉄道管理局の大規模な再編を行い、札幌、仙台、東京、名古屋、神戸、門司の6鉄道管理局が発足した[25]。

なお、1920年3月に、鉄道路線の沿線別に温泉地の所在をまとめた『温泉案内』を初めて編纂して発行した。これ以降、鉄道省に変わってからも『温泉案内』を編纂した。
鉄道省

交通運輸施策の拡充を掲げる立憲政友会の原内閣によって1920年、鉄道事業の権限強化・独立を目指して[26]、鉄道省に昇格した[2]。