防衛省は、国防を所管する行政機関であり、国家行政組織法第3条第2項および防衛省設置法第2条に基づき内閣の統轄の下に設置される。長である防衛大臣は、自衛隊を含む防衛省全体の組織を統括する。1954年（昭和29年）7月1日以来、防衛庁として総理府・内閣府の外局だったが、2007年（平成19年）1月9日に防衛省へ移行、内閣の統括の下に独立した行政機関である省の一つとなった。
省昇格によって、内閣法にいう主任の大臣は、総理府・内閣府の長たる内閣総理大臣から防衛大臣となった。すなわち、防衛大臣は防衛省の所掌事務である国防について分担管理する大臣として責任を負う。しかし、防衛大臣が自衛隊に対して命令できる行動は「警備行動」までであり、それより上位の「警護出動」・「治安出動」、最上位の「防衛出動」は内閣の首長としての内閣総理大臣に命令権が与えられている。このため、省昇格に伴う防衛大臣（旧防衛庁長官）の職責上の変更点は、閣議への請議や財務大臣への予算要求、省令の制定などが防衛大臣の名において行えるようになったことに留まった。したがって、省昇格の具体的な効果は事務手続のごく若干の緩和、庁より格が高いとされる省への名称変更による隊員の士気向上、他国の国防機関との均衡の改善などが挙げられているのみである[1]。
防衛省・自衛隊は日本最大の公務員組織であり、防衛省職員への給与は、国家公務員給与費の4割を占める。マークは“青い球（地球）を守るように抱える緑色のヒトの形の上半身（自衛隊員を象徴）”。
行政組織上、「防衛省」とは本省の内部部局に加えて、陸海空の三自衛隊（制服組）、その他の附属組織（装備本部等）など審議会等、施設等機関、特別の機関まで含めた呼称である。
しかし、これは広義の防衛省というべきもので、狭義には防衛省本省の特に内部部局のみに限る組織を含意して防衛省と呼ぶことがある。省移行前の防衛庁の時代、特にマスコミ報道などでは、「防衛庁」といってもいわゆる文官（自衛官以外の防衛庁職員、いわゆる背広組）を中心とする組織である本庁の内部部局（内局）のみを指し、自衛官（制服組）を中心とする三自衛隊と並列して存在する別組織であるかのように用いられている例が見られた。
自衛隊という用語との関係では、「○○自衛隊」あるいは「三自衛隊」などと言う場合は、「防衛省の特別の機関」としての各部隊を指すにとどまるが、何も付けず単に「自衛隊」と言う場合は防衛大臣以下、内部部局から外局までも含む「防衛省」の全体を指す、と自衛隊法に定められている。
つまり「防衛省」と「自衛隊」はほとんど同一の組織のことを指しており、防衛省設置法に基づく国の行政機関としての側面からの名称が「防衛省」、国防等の職務を担う軍事的組織としての側面からの名称が「自衛隊」ということになる。この点で、防衛省と自衛隊の関係は多くの人が理解している認識とは異なる。
同様に、防衛事務次官、防衛参事官、防衛書記官、防衛部員をはじめとする内部部局等のいわゆる文官は、自衛隊員であるとされており、自衛官（制服組）と同様に、「事に臨んでは危険を顧みず、身をもって責務の完遂に努める」という文言を含む服務の宣誓を行うこととされている。
なお、「防衛省」と「自衛隊」は完全に同一ではない。防衛省に置かれる全ての審議会・審査会と、防衛施設庁業務部労務調査官および同部労務管理課の職員は「自衛隊」には含まれないと規定されている（自衛隊法施行令第1条各項及び自衛隊法施行規則第1条）。また防衛大臣、防衛副大臣、防衛大臣政務官は防衛省職員ではあるが、自衛隊員ではない。
沿革防衛省・アルミ合金製看板（看板の作製が間に合わないため、アルミ合金の仮看板を採用した）仮看板を掲げた正門
防衛省の前身は、1950年（昭和25年）6月の朝鮮戦争勃発を受けて発足した警察予備隊本部（けいさつよびたいほんぶ）に遡ることができる。その後保安庁（ほあんちょう）、防衛庁（ぼうえいちょう）を経て現在の防衛省に至る。
1950年（昭和25年）6月25日 - 朝鮮戦争が勃発、これに対応するため、在韓米軍と共に在日米軍の兵力も充てられた。
1950年（昭和25年）7月8日 - 日本国内における兵力の不足を受けて連合国軍総司令官および国連軍総司令官であるダグラス・マッカーサーは、首相の吉田茂に対して警察予備隊の創設を指示。
1950年（昭和25年）8月10日 - ポツダム政令として警察予備隊令が公布・施行され発足した警察予備隊（現在の陸上自衛隊に相当）を管理・運営する総理府の機関として警察予備隊本部が設置された。
1952年（昭和27年）4月26日 - 海上保安庁の付属機関として海上警備隊（現在の海上自衛隊に相当）が発足した。
1952年（昭和27年）8月1日 - 保安庁法の施行により総理府の外局として保安庁(National Safety Agency) が発足。同日、海上保安庁海上警備隊は保安庁に移管のうえ警備隊に改められたが、警察予備隊の方は準備等の都合からそのままの名称で保安庁の所轄下に移管され、遅れて10月15日に保安隊となった。
1954年（昭和29年）7月1日 - 防衛庁設置法により保安庁は防衛庁 (Japan Defense Agency) に改められた（引き続き総理府の外局）。保安隊と警備隊も廃止され、陸上自衛隊、海上自衛隊、航空自衛隊などが発足した。自衛隊の詳細については自衛隊の項目を参照。
