ヴェルサイユ条約の軍備制限条項によりドイツの軍隊は陸軍兵力を10万人に限定され、義務兵役制度も廃止された。機構面でも参謀本部、陸軍大学校、陸軍士官学校は禁止され、軍備でも戦車部隊、重火器は禁止された。海軍兵力は1万5000人、戦艦6隻、巡洋艦6隻および駆逐艦12隻の保有のみが認められた。また、航空戦力の保持は禁止された。軍を離れねばならなかった旧軍人は巷に溢れ、社会的に不安定な要素となった。軍はヴェルサイユ条約の規制をかいくぐって軍備の維持、向上を目論んだ。参謀本部は「兵務局」に偽装して存続させ、将来の拡充を見越して、下士官に将校レベルの教育を行った。ドイツ義勇軍などに偽装した形で人員の確保を行った（黒い国防軍）。また赤軍の協力を得てソ連国内で秘密裏に航空機、戦車、化学戦等の訓練施設を設け、将来の再軍備への準備を怠らなかった[7]。戦闘機を旅客機・戦車を農業用トラクターと称し、郵便配達人の自衛用との名目で小銃を開発、新型の機関銃や火砲に敗戦前の年式を付けて開発時期を偽装するなど、軍備を整え技術を高めていった。この結果世界初のジェット戦闘機メッサーシュミット Me262、アサルトライフルの始祖StG44 (突撃銃)、初のミサイル兵器V2ロケットなど当時としては画期的な兵器が数多く生み出されることとなる。
ヒトラー政権下の軍拡「ナチス・ドイツの経済」も参照

1933年、アドルフ・ヒトラーが首相に就任した。ヒトラーは生存圏の確保を唱え、軍事を極めて重視していた。2月3日にはハンマーシュタイン＝エクヴォルト兵務局長宅で開かれた会談（de:Liebmann-Aufzeichnung）において、軍首脳に再軍備を約束している。また2月8日の閣議では「あらゆる公的な雇用創出措置助成は、ドイツ民族の再武装化にとって必要か否かという観点から判断されるべきであり、この考えが、何時でも何処でも、中心にされねばならない」「すべてを国防軍へということが、今後4?5年間の至上原則であるべきだ」と言明するなど、ナチス時代の経済政策はすべて軍備増強を念頭に置かれたものであった[8]。新たに設置された航空省はヘルマン・ゲーリングをトップとし、空軍の再建が進行していった。国家予算における国防費も、1932年には6億3000万ライヒスマルクであったが、1933年には7億4600万ライヒスマルク、1934年には19億5200万ライヒスマルクと急増している[9]。さらにメフォ手形などの秘密手段によっても資金が調達され、1934年だけでも40億9700ライヒスマルクが軍事費として投じられている[9]。1941年に海軍財政局は1933年以降の状態を回顧して、困難がなかったわけではないが、「（資金は）常にほとんど無制限に提供された」としている[10]。
国防軍の発足

1935年3月16日にヴェルサイユ条約軍備制限条項の破棄（再軍備）が宣言されると、軍はReichswehr（ライヒスヴェア）からWehrmacht（ヴェアマハト）へと改名される。陸軍、海軍の名称も下記のように改名され、空軍の存在も公式に定められた。

陸軍 - Heer（ヘーア）　旧名Reichsheer（ライヒスヘーア）

海軍 - Kriegsmarine（クリークスマリーネ）　旧名Reichsmarine（ライヒスマリーネ）

空軍 - Luftwaffe（ルフトヴァッフェ）

三軍の最高機関としては陸軍総司令部(OKH)、海軍総司令部(OKM)、空軍総司令部(OKL)が設置され、それぞれに総司令官が置かれた。また陸軍の参謀本部も兵務局から改称して復活した。さらに5月21日には、所轄官庁である国防省（ドイツ語版）(Reichswehrministerium)は戦争省(Reichskriegsministerium)へと改称されている。
国防軍再編成

1935年5月21日に、全38条からなる兵役法が施行される[11]。

第一条

一、兵役はドイツ民族に対する名誉ある勤務である。

二、すべてのドイツ男子は、兵役の義務を負う。

三、戦時においては、兵役の義務を超越して、すべてのドイツ男子と、すべてのドイツ女子は、祖国のための勤務について義務を負う。


第二条

国防軍は武器を執って防衛するものであると共に、ドイツ民族に向かって、軍隊的な教育を施すべき学校である。国防軍は、陸軍、海軍および空軍より成る。


第三条

一、国防軍の最高司令官は指導者兼首相（Fuhrer und Reichskanzler）である。

二、国防大臣はその下にあって、国防軍の高級指揮者として、国防軍に向かって指揮権を発動する。

国防軍の誕生とともに再軍備はいよいよ公然化し、1936年の総軍事費は102億7300万ライヒスマルク、1938年には172億4700万ライヒスマルクに達した。国民総生産に対する割合は、1936年で15.7％、1938年には21.0％に達している[9]。
ヒトラーによる掌握

ヴァイマル共和国時代から軍隊の最高指揮権は国家元首の大統領に所在し、国防大臣に権限を委託する形式であった。ヒンデンブルク大統領が死去した後、ヒトラーはその権限を受け継いでいた。1938年、ヒトラーの外交政策（ホスバッハ覚書）に反対する国防大臣ブロンベルク元帥と陸軍総司令官フリッチュ上級大将にスキャンダルをでっちあげ、失脚させた（ブロンベルク罷免事件）。ヒトラーは後継の大臣を指名せず、新たにヴィルヘルム・カイテルを総長とする国防軍最高司令部を設け、自らはその最高司令官に就任することで国防軍三軍を直接指揮する仕組みを作った。その後の国防軍の多くはヒトラーの政策に表立って反対することはなく、1939年のポーランド侵攻までの外交政策はおおむね国防軍も同意していた。
第二次世界大戦1939年10月5日、ワルシャワで戦勝パレードするドイツ国防軍陸軍「ナチス・ドイツの軍事」、「西部戦線 (第二次世界大戦)」、「北アフリカ戦線」、および「独ソ戦」も参照

開戦から1941年頃までは優れた戦術と戦略で、ポーランドやフランス、ユーゴスラビア、ギリシャなど連合国を圧倒し、ヨーロッパの大半をドイツの影響下に収めた。しかし1941年6月の独ソ戦開始以降、厳しい気候と赤軍の粘り強い抵抗によって次第に消耗していった。1941年の冬に陸軍参謀本部と司令部は後退を求めるようになり、退却を許さないヒトラーと対立した。この時にはヒトラーの判断が功を奏して戦線崩壊を免れたが、ヒトラーに反対した陸軍総司令官や参謀総長、多くの将軍が更迭された。ヒトラーは自ら陸軍総司令官を兼任し、独ソ戦の指揮に強く介入するようになった。1942年のブラウ作戦はヒトラーが自ら大綱を書き上げたものであったが、攻勢は不十分に終わり、スターリングラード攻防戦では大きな損害を出した。また1944年にはノルマンディー上陸作戦により、ドイツは東西両面の連合国軍と戦うこととなった。

陸軍元参謀総長ルートヴィヒ・ベック将軍らは戦前から反ヒトラーグループを形成しており、何度もヒトラー暗殺を計画していた。