概ね昭和10年代初めの平時編制として、陸軍は内地が東部、中部、西部に区分されてそれぞれの地域に防衛司令部が設置され、また、内地に14個師団と北海道に1個師団が配備されていた。朝鮮には朝鮮軍司令部と2個師団が、台湾には台湾軍司令部と台湾守備隊が、関東州・満洲には関東軍司令部と関東軍守備隊が置かれている。海軍は平時編制ではまず艦船を現役艦と予備艦に分け、現役艦を以って第一艦隊と第二艦隊から構成される連合艦隊、または警備艦として鎮守府に所属した。

天皇（最高指揮官たる大元帥）

元帥府 - 天皇に対する軍事問題の最高顧問。元帥によって構成される。法的に定められた職責はない。

軍事参議院 - 重大な軍事問題についての天皇の諮問を受け、意見を上奏する合議機関。

（大本営 - 戦争・事変の勃発を受けて、必要に応じて参謀本部と軍令部をもって設置する。）

陸軍（陸軍大臣・参謀総長・教育総監の三職を特に「陸軍三長官」と呼称した）

陸軍大臣 - 国務大臣の一人として、軍政について天皇を輔弼する。

参謀総長 - 帷幄の機関の長として、天皇に直隷し参謀本部（戦時は大本営陸軍部）を統括し、作戦計画・動員計画（軍令）などを掌る。

教育総監 - 将兵の教育（軍学校）を掌る。

防衛司令官（東部：東京警備司令官、中部：第4師団長、西部：第12師団長）

朝鮮軍司令官

台湾軍司令官

関東軍司令官（内地の師団が満洲駐剳となり関東軍の指揮下に入った。昭和12年（1937年）当時は第1師団・第2師団・第4師団・第12師団が駐剳任務に就いていた）

支那駐屯軍司令官

各軍司令官・師団長



海軍

海軍大臣 - 国務大臣の一人として、海軍省を統括し、軍政について天皇を輔弼する。

軍令部総長 - 帷幄の機関の長として、天皇に直隷して軍令部（戦時は大本営海軍部）を統括し、作戦計画・動員計画（軍令）などを掌る。

艦隊司令長官（連合艦隊司令長官、支那方面艦隊司令長官など、複数の艦隊司令長官を指揮下に置く場合もある）

鎮守府司令長官



陸海軍共通の特務機関

侍従武官府

東宮武官

皇族附武官

駐在武官


管区

陸軍は、本国（内地）と外地（朝鮮や台湾などの大日本帝国外地）の一部を管区で区分した。

1873年（明治6年）から1888年（明治21年）までは軍管・師管、1888年（明治21年）からは1896年（明治29年）まで師管・大隊区、1896年（明治29年）から1940年（昭和15年）までは師管・連隊区、1940年（昭和15年）から1945年（昭和20年）までは軍管区・師管・連隊区、1945年（昭和20年）に軍管区・師管区・連隊区という階層で大きな区分と小さな区分を設けた。