設置当初の組織は、監軍部と同様に本部のほか騎兵監部・野戦砲兵監部・要塞砲兵監部・工兵監部・輜重兵監部を置いた。1900年(明治33年)3月から本部部長を参謀長と改称。1907年(明治40年)10月9日要塞砲兵監部を重砲兵監部と改称する。1908年(明治41年)12月参謀長を本部長と改称。本部に庶務・第1・第2の3課を置く。1919年(大正8年)4月から野砲兵監部と重砲兵監部は統合され砲兵監部となる。1938年(昭和13年)7月、本部に部制を採用し、第1部・第2部を置く。1941年(昭和16年)4月から化兵監部と通信兵監部が新設。騎兵監部を改組し機甲本部とし、陸軍省の外局となる。第1部は総務部と改称し、第2部は廃止された。1945年(昭和20年)3月から高射兵監部が新設される。
教育総監
本部部長 → 参謀長(1900.3.)→ 本部長(1908.12.)
第1部(1938.7.)→ 総務部(1941.4.)
第1部長(1938.7.)→ 総務部長(1941.4.)
庶務課(1908.12.)
第1課(1908.12.)
第2課(1908.12.)
第3課(1938.7.)
第2部(1938.7.)→ 廃止(1941.4.)
第2部長(1938.7.)→ 廃止(1941.4.)
第4課(1938.7.)→ 機甲本部(1941.4.)
第5課(1938.7.)→(化兵監部、1941.4.)
第6課(1938.7.)→(通信兵監部、1941.4.)
騎兵監 → 機甲本部(1941.4.)
野戦砲兵監 → (砲兵監、1919.4.)
要塞砲兵監 → 重砲兵監(1907.10.)→ (砲兵監、1919.4.)
砲兵監(1919.4.)
工兵監
輜重兵監
化兵監(1941.4.)
通信兵監(1941.4.)
高射兵監(1945.3.)
本部長
本部部長
大谷喜久蔵 歩兵大佐:1898年3月3日 - 1900年4月25日
参謀長
大久保春野 中将:1900年4月25日 - 1902年5月5日
上田有沢 中将:1902年5月5日 - 1904年3月17日
(兼)高木作蔵