二人はラオスの中立化では合意したものの、核実験の禁止、第三世界、ベルリン問題では激しい応酬を展開した[174]。このウィーン会談は結局は何ら成果もなく平行線に終わった。

特に2日目の会談でフルシチョフは、「第二次世界大戦の終結を受けて、西ドイツ（西ベルリンを管理している）、アメリカ、イギリス、フランスの四か国とソ連は、東ドイツと平和条約を結んで第二次世界大戦の戦後処理を終結すべきだ」と主張し、「もしそれがなされれば、米英仏の軍隊は西ベルリンから撤退せねばならない」と説いた。西側の西ベルリン撤退を要求し、ソ連は東ドイツと平和条約を結ぶと通告したのである。

そんなフルシチョフに対してケネディは、「西側の権利は放棄しない」と反論し、もしフルシチョフがその主張を実行に移せば「冷たい冬」となるであろうと警告した。これに対しフルシチョフは、「西側が東ドイツと平和条約を結ぶつもりがないのなら、今年中にソ連は単独で結ぶ」と伝え、ケネディを揺さぶった。しかしケネディは、「西ベルリンの自由を妥協の対象にはしない」と通告。この会談は明日にも戦争が起きそうな緊迫感を帯びていたという。

当時、会談に同席していたフルシチョフの通訳は、のちに会談でのケネディの様子について「明らかに緊張しているのが見た目にも分かった」と証言している。会談終了後、ケネディは周囲の人間に、頑なに姿勢を変えなかったフルシチョフを罵ったとされる。この次の日にロンドンに飛んだケネディを迎えたマクミラン英国首相はのちに「ケネディは生まれて初めて自分の魅力に影響されない男に出会ったのだ」と語っていた[175]。そしてジャーナリストのジョゼフ・オルソップは、ピッグス湾事件よりもこのウィーンでの首脳会談の方がケネディにより深刻な影響を与え、しかし彼が真にアメリカの最高司令官・真の完全な大統領になったのはこのウィーンであったと述べている[176]。
ベルリン危機チェックポイント・チャーリーで睨み合う米ソ両軍の戦車（1961年10月27日）

そしてウィーン会談から2か月後、次なる試練であるベルリン危機（英語版）が勃発した。

これより前の7月25日、ケネディはベルリン危機に関するテレビ演説を行い、改めて西ベルリンを守り抜く決意を表明した。そのために32億5,000万ドルの国防費増額、陸海空三軍の21万7,000人の増加、予備役の招集を発表した。このケネディの強硬姿勢に対して、1961年8月13日、フルシチョフはついにベルリンの壁を建設するという手段で対抗した。この日、東ドイツの警備隊がベルリンの東西を分ける境界にバリケードを築き、ベルリン市民の自由な行動を阻止した。昨日まで自由に東西を往来することができたが、この日から往来が不可能となって家族が離れ離れになる悲劇も生まれた。この日までに1949年以来約250万人の東ドイツ市民が西ベルリンを経由して西ドイツに流出しており、この流出を止めることなく東欧の共産主義体制の安定は不可能であった[177]。バリケードは最初は塀であったが、やがて鉄条網にコンクリートをつけた壁となった。のちにこの壁を乗り越えようとして撃たれて死者が出る事態が生じている。

これに対してケネディは8月18日にジョンソン副大統領とクレイ将軍[注釈 56]をボンに派遣し、そこから西ベルリンに飛んで「この島は決して孤立していない」と伝え、20日に西ドイツから陸路で東ドイツを通過してアメリカ陸軍の精鋭部隊1,600人が西ベルリンに到着した[179]。ケネディの演説を聞くために市庁舎前に集まった30万人のベルリン市民（1963年6月26日）ベルリン市民の前で演説するケネディ（1963年6月26日）

こうしてケネディは西ベルリン駐留軍を強化しただけで、結局ソ連と東ドイツの間に平和条約が結ばれることはなかったが、この後もベルリンをめぐって米ソの緊張は続いた。この間に8月30日にソ連は突如核実験を再開している[180]。

10月27日には、ベルリンの壁の検問所にある外国人専用チェックポイント・チャーリーで、アメリカの司令官が妻とオペラの鑑賞で通過しようとしてパスポートの提示を求められて拒否したことから外交問題に発展し、米ソの戦車が18時間にわたって睨み合いを続け、もし戦闘が始まれば米ソの直接対決により第三次世界大戦の発端になりかねない事件が発生した。水面下でフルシチョフとケネディは連絡を取り、戦車を撤退させることに合意して危機は回避された[181]。11月7日にソ連はすべての部隊を撤退させた。しかし多くのベルリン市民と西ドイツ国民は、アメリカ陸軍の増派以外何もしないケネディに対して「ベルリンは言葉以上のものを期待します。政治的行動に期待しています」と述べたが、これ以上の行動は行われなかった。

この翌々年の1963年6月26日、ケネディは最初で最後となった西ベルリン訪問をした[182]。市内のパレードでアデナウアー首相、ブラント市長とともに100万人の市民の歓呼に答え[182]、ベルリンの壁近くの市庁舎前広場で30万人のベルリン市民を前に演説した。