オスロ総会後、東京市はさらなる招致活動費用として、85,926円を計上した。しかし同年10月にはイタリアが第二次エチオピア戦争を開始し、ムッソリーニは再び東京における開催を支持する旨を表明した[2][3]。杉村はこの後エチオピアの不支持を表明しており、誘致が取引材料にされたという指摘もある[2]。翌1936年（昭和11年）3月19日、IOC委員長のアンリ・ド・バイエ＝ラトゥールは客船秩父丸で来日[4]。好感触を得た。3月27日、バイエ＝ラトゥールは二・二六事件をのりきったばかりの昭和天皇に謁見[4][5]。4月9日、離日した[4]。

一方の日本側は、牛塚虎太郎（東京市市長）が競技場月島建設案に固執していたため、神宮競技場拡張案を有力としながらもどこに建設するのか決められないまま、最後の投票に臨むことになった[6]。

6月2日に副島は昭和天皇に謁見、6月4日に横浜港を出発した[7][8]。ベルリンのホテル・アドロンで同年7月29日より行われたIOC総会における7月31日の投票の際には、日本の招致委員会を代表して柔道創設者の嘉納が「日本が遠いと言う理由で五輪が来なければ、日本が欧州の五輪に出る必要はない」と演説した[9]。結果として東京36票、ヘルシンキ27票で、アジア初となる東京開催が決定した[10]。

1940年夏季オリンピック 開催地投票都市国1回目
東京 日本36
ヘルシンキ フィンランド27

準備大会組織委員長の徳川家達公爵駒沢オリンピック公園馬事公苑オリンピック旗を製作する業者（1936年9月）
大会組織委員会成立

日本のみならずアジアで初、有色人種国家としても初の五輪招致成功をうけて、1936年12月に文部省の斡旋で東京市、大日本体育会などを中心として「第十二回オリンピック東京大会組織委員会」が成立し、元貴族院議長でIOC委員の徳川家達公爵が委員長に就任するなど本格的な準備に着手した。
会場建設

主会場には、明治神宮外苑に10万人規模のスタジアムを建設することを計画（明治神宮外苑競技場の改築）したものの、明治神宮外苑を管轄する内務省神社局がこれに強硬に反対したために、利便性の高い都心への建設をあきらめざるを得なくなった。

その後、大会組織委員会を中心に主会場の代替建設地の検討が急ピッチで進められた結果、交通の便が極めて悪い郊外であるものの、周辺に畑しかなく敷地に余裕がある東京府荏原郡駒沢町の駒沢ゴルフ場の跡地（今日の駒沢オリンピック公園敷地）にメインスタジアムを建設することとなった。

また、自転車（芝浦自転車競技場）や射撃や水泳（神宮外苑水泳場）、ボート（戸田漕艇場）、馬術(馬事公苑）などの、専用施設を必要とする競技の競技場や練習場の計画及び建設も進められた。
周辺準備

その後は様々な開催準備が進行し、東京や海からの窓口となる横浜を中心とした道路の建設や都市美観工事、ホテル建築、国際的土産品の新製、職員への英語教育などの周辺準備が計画、実行され、これに対して政府からは延べ55万円に及ぶ補助金が支出された。

また、ベルリンオリンピックで試験的に実現したテレビ中継の本格的実施をもくろみ、日本ラジオ協会と電気通信学会が、東京の各競技会場と大阪、名古屋を結ぶ中継を行うべく開発を進めることとなった。
万博開催

さらに、紀元二千六百年記念行事の一環としての「紀元2600年記念日本万国博覧会」も同年開催が予定されたことから、勝鬨橋の建設など、会場となる晴海近辺の埋め立て地の整備が行われた。
冬季五輪招致成功

日本政府は、夏季オリンピックの東京招致に併せて、冬季オリンピックを札幌市に招致することを目指して招致活動を継続した結果、1940年に第5回冬季五輪として札幌オリンピックが開催されることに決定した。