ギルモに敗北したヌルミは様々な試合を実験として行い、細かく分析した[13]。ヌルミはそれまで最初の数周における猛烈な先行で知られたが、彼はストップウオッチを持って走るようになり、全距離を通じて等速で走るよう努力した[14]。彼は走りのテクニックを完璧なまでに高め、それは相手の成績が彼の順位に影響しなくなるほどだった[13]。ヌルミは1921年にストックホルムで自身初となる世界記録を10000メートル競走で作った[15]。1922年には2000メートル、3000メートル、5000メートル競走の世界記録を塗り替えた[14]。さらに1923年に1500メートル競走と1マイル競走の世界記録を更新した[14]。1マイル、5000メートル、10000メートル競走の世界記録を同時に保有したのは2017年時点でヌルミただ1人であった[8]。ヌルミは800メートル走にも挑戦、1923年のフィンランド選手権をフィンランド記録を更新しつつ勝利した[16]。ヌルミは数学を学んで優秀な成績を上げた後[17]、1923年にエンジニアとして卒業、うちに戻って次のオリンピックを準備した[5][9]。
ヌルミが1924年春にひざを怪我したことで1924年パリオリンピックの参加が一時危うくなったが、彼は回復して1日2回のトレーニングを再開した[16]。6月19日、ヌルミはオリンピックのスケジュールを試そうとしてヘルシンキのエラインタルハ競技場(英語版)で1500メートルと5000メートルを1時間内に走り、両方とも世界記録を更新した[18]。パリのオリンピックで行われた1500メートル競走の決勝戦では最初の800メートルを世界記録更新の時よりも3秒ほど早く走った[18]。ヌルミに挑戦できたのはアメリカのレイ・ワトソン(英語版)だけだったが、最後の一周で諦めたため、ヌルミは速度を少し落としつつヴィリー・シェーラー、ハイラ・ブリストー・ストーラード(英語版)、ダグラス・ロウに勝利[18] 、それでもオリンピック記録を3秒下回って更新した[19]。しかし、5000メートル競走は1500メートル競走から2時間未満で開始、すでに3000メートル障害と10000メートル競走で金メダルを獲得した、同じくフィンランド出身のビレ・リトラが強敵として立ちはだかった[18]。リトラとエドヴィン・ヴィーデはヌルミがきっと疲れていると考え、世界記録のペースで走って彼にエネルギーを使い果せようとした[20][21]。時計ではなく2人の男と競争していたことがわかると、ヌルミはストップウオッチを傍らの草に放り投げた[20]。やがてヴィーデのペースが遅くなり、ヌルミとリトラのみが競争を継続した[18]。最後の直線ではリトラが外側から走ったが、ヌルミもペースを上げてリトラを1メートル後ろに維持して勝利した[18]。
一方、クロスカントリー競走では45度という酷暑だったため[22]競走者38人のうち15人がリタイヤ[18]、完走した走者でも8人がストレッチャーで運ばれた[18]。