第二次世界大戦がナチス・ドイツなど枢軸国の敗北で終わり、アメリカ合衆国や西欧諸国は、東欧を影響圏に置いた共産主義国家であるソ連の脅威に直面し、東西冷戦が始まった。西欧では共同防衛条約として1948年にブリュッセル条約が結ばれた[18]。これには、ドイツの再侵略に対する警戒が条約文に明記されていたが、実態としてはソ連に対抗する意図があった[18]。アメリカ合衆国の外交姿勢には伝統的な孤立主義があったが、アメリカ合衆国上院において1948年6月11日にバンデンバーグ決議がなされ、集団防衛体制への参加が認められた[18]。イギリス外相のアーネスト・ベヴィンらは、アメリカ合衆国も含めた共同防衛条約の成立に動き、1949年4月4日に北大西洋条約が調印された[18]。
結成当初は、ソ連を中心とする共産圏に対抗するための西側陣営の多国間軍事同盟であり、「アメリカ合衆国を引き込み、ロシア(ソ連)を締め出し、ドイツを抑え込む」[注釈 1](反共主義と封じ込め)という、初代事務総長であるヘイスティングス・イスメイの言葉が象徴するように、欧州諸国を長年にわたって悩ませたドイツ問題に対する一つの回答でもあった[注釈 2]。
当初はアメリカ合衆国などの一部でドイツの徹底した脱工業化・非ナチ化が構想されていた(「モーゲンソー・プラン」も参照)。また連合軍占領下ではドイツは武装解除され、小規模な国境警備隊や機雷掃海艇部隊以外の国軍を持つことは許されず、アメリカ合衆国、フランス、イギリス、ソ連の4か国が治安に責任を担っていた。しかし、冷戦の開始とともに西ドイツ経済の復興が求められ、主権回復後の1950年には西ドイツの再軍備検討も解禁された。西ドイツは新たな「ドイツ連邦軍」の設立とNATOへの加盟準備を始めたが、フランスなどはドイツ再軍備とNATO加盟に反対し、欧州防衛共同体構想で対抗した。この構想は1952年に西ドイツを含む西欧各国間で調印されたが、ド・ゴール主義者たちの反対によりフランス議会で否決され、批准に至らなかった。この結果、フランスもドイツ再軍備を認め、ドイツ連邦軍(ドイツ軍)が1955年11月12日に誕生し、西ドイツはNATOに加盟した。一方、この事態を受けてソ連を中心とする東側8か国はワルシャワ条約を締結してワルシャワ条約機構を発足させ[注釈 3]、ヨーロッパは少数の中立国を除き、2つの軍事同盟によって東西に分割されることとなった。
1949年から1954年まで、パウル・ファン・ゼーラントがアメリカ合衆国連邦政府とNATO双方の経済顧問を務めた。冷戦期のヨーロッパ勢力図。青がNATO、赤がワルシャワ条約機構、斜線は脱退した国家、白が両同盟に属さない国家である。濃い色は発足時の加盟国、薄い色はその後の加盟国を指す。
第二次世界大戦から冷戦を通じて、西欧諸国はNATOの枠組みによってアメリカ合衆国の強い影響下に置かれることとなったが、それは西欧諸国の望んだことでもあった。二度の世界大戦による甚大な被害と、1960年代にかけての主要植民地の独立による帝国主義の崩壊により、それぞれの西欧諸国は大きく弱体化した。そのため欧州各国は、アメリカ合衆国の核抑止力と強大な通常兵力による実質的な庇護の下、安定した経済成長を遂げる道を持とうとした。なお、1960年代にはそれまでフランスやイギリスの植民地として加盟していたアルジェリア、キプロス、マルタが独立後に脱退した。
東側との直接戦争に向け、アメリカによって核兵器搭載可能の中距離弾道ミサイルが西欧諸国に配備され、アメリカ合衆国製兵器が各国に供給された(ニュークリア・シェアリング)。途中、フランスは米英と外交歩調がずれ、独自戦略路線に踏み切って1966年に軍事機構から離脱[19]、そのため、1967年にNATO本部がフランス首都のパリからブリュッセルに移転した[20]。