1928年アムステルダムオリンピックでは3種目に参加した。10000メートル競走ずっとリトラの後ろで走り、最後の直線で加速してリトラを越えて勝利した[44]。5000メートル競走の決勝戦直前、ヌルミは3000メートル障害の予選で[44]水たまりからジャンプしたときに転倒してしまい腰と足を捻挫した[44]。フランス選手リュシアン・デュケーヌ（英語版）が止まってヌルミに手を貸して立ち上がらせた。ヌルミはお礼としてデュケーヌと並走、ペースを上げさせて予選の勝利を渡したが、デュケーヌに断られた[44]。その後の5000メートル競走では10000メートル競走のときと同じ手を使おうとしたが、今度はリトラが加速したためヌルミは追い付けなかった[44]。以前よりも疲れたように見えたヌルミはヴィーデを寄せ付けずに銀メダルを獲得するのみに留まった[44]。しかし3000メートル障害の決勝戦が翌日に控えたため、ヌルミは休息や怪我を治療する時間がなかった[44]。ヌルミが障害物の跳躍に苦しんだためフィンランド出身で障害走を専門としたトイヴォ・ロウコラが距離差を広げた[44]。ヌルミは最後の一周でスパートをかけて他を引き離し、ロウコラとは9秒差でゴール、銀メダルを獲得した。ロウコラは世界記録を更新したが、ヌルミの記録も当時の世界記録より良い成績だった[44]。リトラはリタイヤしたが、オーヴェ・アンデルセン（英語版）が銅メダルを獲得したことでフィンランドは全てのメダルを獲得する圧勝となった[44]。
長距離走を転戦ストップウオッチを見るヌルミ、1928年。

ヌルミはスウェーデンの新聞に「これは私が競走路上にいる最後のシーズンです。私は歳を取った。15年間走ったのでもう十分走りました。」と述べたが[8]、彼は競走を続け、より長距離な競走に着目した。10月、彼はベルリンで15キロメートル競走、10マイル競走、1時間競走の世界記録を打ち立てた[15]。ヌルミの1時間競走の世界記録は17年間破られず、1945年にようやくヴィルヨ・ヘイノ（英語版）が記録を129メートル伸ばした[45]。1929年1月、ヌルミは2度目の米国ツアーをブルックリンから開始した[46]。彼は室内1マイル競走であるワナメイカー・マイル（英語版）で自身の1マイル競走におけるはじめての敗北を喫し、アメリカのレイ・コンジャー（英語版）に敗れて2着に終わった[47][48]。