国際情勢は1962年（昭和37年）のキューバ危機を経て、池田内閣の1963年（昭和38年）8月14日に部分的核実験禁止条約に調印、翌1964年（昭和39年）6月15日に批准した。
中国の核武装開始と日本の核武装構想・アメリカの核の傘獲得詳細は「中国の核実験」を参照

しかし、中華人民共和国は1964年（昭和39年）6月29日、東風2号Aの発射試験が成功。続いて7月19日、観測ロケットT-7A (S1)の打ち上げと回収に成功[16]。そして1964年10月16日、初の中国核兵器（コードネーム596）が核爆発に成功し、中国の最初の原爆実験となった（596参照）。同10月27日には、核弾頭を装備した東風2号Aミサイルが酒泉より発射され、20キロトンの核弾頭がロプノールの標的上空569mで爆発した。

この中国の核実験の成功を受けて、佐藤栄作は日本の核武装の必要性を認識し、1964年12月29日のライシャワー駐日大使との会談で、日本の核武装論について言及した[17]。翌年の日米首脳会談で、リンドン・ジョンソン大統領は日本の核武装に反対しながらも会談後に発表された日米共同声明では「米国が外部からのいかなる武力攻撃に対しても日本を防衛するという安保条約に基づく誓約を遵守する決意であることを再確認する」と公約された[17]。こうした佐藤総理の交渉について春名幹男は、日本核武装論でアメリカ側を驚かせ、核の傘を得る戦略で成功した、と指摘している[17]。
非核三原則の表明

こうしたなか1967年（昭和42年）12月8日の衆議院本会議で、公明党の竹入義勝議員が「（アメリカ合衆国からの）小笠原の返還にあたって、製造せず、装備せず、持ち込まずの非核三原則を明確にし得るかいなか、見通しを伺いたい」と質問したのが、国会議事録に非核三原則という言葉が載った最初である[18]。

1967年（昭和42年）12月11日の衆議院予算委員会において日本社会党委員長の成田知巳が、アメリカ合衆国から返還の決まった小笠原諸島へ核兵器を再び持ち込むことへの可能性について政府に対して質問した際、佐藤栄作内閣総理大臣が、日本は「核兵器を持たず、作らず、持ち込ませず」という非核三原則を主張するということを示した[19]。
佐藤栄作総理による施政方針演説

1968年（昭和43年）1月30日の施政方針演説においても佐藤総理は、この三原則を含めた核政策の4本柱を表明（非核三原則、核廃絶・核軍縮、米への核抑止力依存、核エネルギーの平和利用）[20]した。その後、返還後の沖縄においても非核三原則が適用されるのかという問題に関して三木武夫外務大臣は当然適用されると主張したのに対し、返還交渉がこじれる事を危惧した佐藤栄作が三木発言を非難するなどの紆余曲折があった。

なお、当時の世論調査では非核三原則に賛成する意見はほとんど見受けられなかった[21]。

1960年代末から1970年代にかけて米ソデタント（緊張緩和）となる。
沖縄返還協定の付帯決議

1971年（昭和46年）11月24日、佐藤栄作は最終的に非核三原則を沖縄にも適用させるべきと決断し、衆議院で沖縄返還協定の付帯決議として「非核兵器ならびに沖縄米軍基地縮小に関する決議」を議決した。非核三原則を国是とすることにあたり、核の脅威に対してはアメリカの核抑止力に依存すると1972年（昭和47年）10月9日に閣議決定した。

非核三原則を示したことによって1974年（昭和49年）に、佐藤栄作はノーベル平和賞を受賞した。受賞理由と佐藤の実態との乖離から、ノーベル平和委員会が発行した記念誌の執筆者の一人であるオイビン・ステネルセンは「佐藤氏を選んだことはノーベル委員会が犯した最大の誤り」とのちに見解を述べた。詳細は「佐藤栄作#ノーベル平和賞をめぐって」を参照

2009年（平成21年）になって沖縄に核兵器が持ち込まれていた事実が明らかになった。詳細は「日米核持ち込み問題」を参照
核拡散防止条約批准の際の附帯決議

1976年（昭和51年）4月27日に衆議院外務委員会で核拡散防止条約 (NPT) 採決後に、(1) 政府は、核兵器（核燃料、核廃棄物）を持たず、作らず、持ち込まさずとの非核三原則が国是として確立されていることにかんがみ、いかなる場合においても、これを忠実に履行すること。

という項目を含む附帯決議をした[2]。参議院外務委員会においても5月21日に、(1) 核兵器を持たず、作らず、持ち込ませずとの非核三原則が国是として確立されていることにかんがみ、いかなる場合においても、これを忠実に遵守すること。

という項目を含む附帯決議を同様に決議した[2]。「持ち込まさず」と「持ち込ませず」の2通りの表現が使われている。
国是決議

1978年（昭和53年）5月23日に衆議院で、第1回国際連合軍縮特別総会に関して、「非核三原則を国是として堅持する我が国」という表現を含む決議を採択した。また、同様の表現を含む国会の決議は、核軍縮に関する衆議院外務委員会決議（1981年6月5日）、第2回国際連合軍縮特別総会に関する衆議院本会議決議（1982年5月27日）及び参議院本会議決議（1982年5月28日）でされている[2]。
法的位置づけ

「核兵器を持たず、作らず」の日本独自の核兵器の保有・製造に関する2項目については、1955年（昭和30年）に締結された日米原子力協力協定や、それを受けた国内法の原子力基本法および、国際原子力機関（IAEA）、核拡散防止条約（NPT）等の批准で法的に禁止されている。

非核三原則は国会決議ではあるが法律や条約ではないため、非核三原則の一つである「核兵器を持ち込ませず」には法的な拘束力はないとされている[22]。反核団体からは「核兵器を持ち込ませず」についても法制化をすべきと主張されている[23]。
非核四原則

2016年3月31日、アントニオ猪木は参議院外交防衛委員会の質疑で、2015年の安保法見直し議論の中で中谷元防衛大臣が「自衛隊による核兵器の輸送も法文上排除していない」との発言を「日本の非核三原則が軽んじられている」と批判したうえで、非核三原則に核兵器を「運ばず」の条文を加えた「非核四原則」の法整備を政府に求めた。水嶋光一外務大臣官房審議官は、「核兵器を輸送しないとの考えは、非核三原則の趣旨、精神に沿ったもの」との認識を示したが、法整備をしてこなかった理由を以下のように述べ、非核四原則の法整備の考えが安倍内閣に無いとの認識を示した[24]。