しかし、1961年（昭和36年）10月1日ダイヤ改正（サンロクトオ）で急行「アカシヤ」が廃止されると、以後は客車急行の気動車化が進んでいく。さらに同ダイヤ改正で北海道初の特急「おおぞら」が新設されたことを契機に、函館 - 札幌間のメインルートが函館本線（小樽駅）経由から室蘭本線・千歳線経由に移行していく[1]。この時期には、間合い運用として函館 - 札幌間の夜行準急・急行「たるまえ」→夜行急行「すずらん」（いずれも室蘭本線・千歳線経由）の函館 - 長万部間や、函館 - 網走間（函館本線・石北本線経由）の夜行準急・急行「石北」[注 23]の小樽 - 旭川間の牽引も担当するとともに、優等列車ばかりでなく、函館本線の普通列車の一部も牽引した[1]。

1962年（昭和37年）10月1日ダイヤ改正では急行「大雪」が全区間C62形単機での牽引に変更され[1]、1963年（昭和38年）4月28日付でC62 42が仙台機関区に転出する[3]。同年6月1日には急行「大雪」が気動車急行「ライラック」（キハ56系気動車）に変更され、C62形の急行列車牽引は「まりも」の函館 - 小樽間と「たるまえ」の函館 - 長万部間のみとなり、山線での重連運転は急行「まりも」1往復のみに減少した[1]。1965年（昭和40年）10月1日ダイヤ改正では急行「まりも」が札幌駅を境に急行「ていね」（函館 - 小樽 - 札幌間）と「まりも」（札幌 - 釧路間）に系統分離された[1]。

1967年（昭和42年）10月1日ダイヤ改正での運用減に伴い[1]、1968年（昭和43年）2月20日付でC62 27が除籍・解体された[3]。さらに1968年（昭和43年）8月28日には小樽 - 滝川間が電化され、C62形の運用は再び小樽以南に縮小された[1]。同年10月1日ダイヤ改正（ヨンサントオ）では急行「ていね」が「ニセコ」に改称。この下り「ニセコ3号」、上り「ニセコ1号」の1往復（函館 - 小樽間）がC62形で最後の急行列車牽引となった[1]。同年10月18日付でC62 30が廃車となり[3]、小樽築港機関区のC62形は4両（C62 2・3・32・44）に減少した[1]。

1970年（昭和45年）には、好調故に本務機に多用されて走行キロ数が伸びていたC62 32・44がDD51形ディーゼル機関車への置き換え計画実施まで1年を残して全検周期に到達、検査を実施するよりも期限未到達の余剰車を軽軸重形へ改造および耐寒設備工事施工の上で転用する方が大幅に安価[注 24]であった。このため、当該2両はいずれも1971年（昭和46年）6月26日付で廃車となり[3]、代替機として呉線電化で余剰となり、検査期限まで1年以上期間が残っていた2両（C62 15・16）が糸崎機関区から転属した[1]。なお、両機の軸重軽減改造時には交換が必要な従台車はC62 32・44からの廃車発生品を流用し、さらにC62 16のテンダーについてはC62 32のものと交換した[3]。

そして1971年（昭和46年）、最後まで重連運転として残った急行「ニセコ」1往復（下り3号、上り1号）が7月18日・8月22日・9月15日の3回に分けて実施された三重連運転を最後にDD51形ディーゼル機関車に置き換えられ[注 25]、ついに終焉を迎えた[1]。最終日となった9月15日の牽引機は先頭からC62 2・3・16であった[1]。これに伴い、国鉄から蒸気機関車牽引の定期急行列車が消滅した[注 26]。

急行「ニセコ」運用から退いた後、C62 15・16が同年11月24日付で廃車・解体された[3]。C62 2は長万部 - 小樽間の普通列車運用に充当された後[1]、翌1972年（昭和47年）10月10日付で梅小路機関区に転属し、同機関区に併設された梅小路蒸気機関車館にて動態保存されることとなった[注 27][1][3]。C62 3は一時休車を経て、1973年（昭和48年）2月から函館本線の長万部 - 小樽間の臨時普通列車を牽引したが[1]、長万部 - 小樽間の完全無煙化により同年10月1日付で第一種休車となり、1976年（昭和51年）3月19日付で正式に除籍された[3]。C62 3は、小樽市の北海道鉄道記念館にて静態保存された[1]。
その他

以上のようにC62形は優等列車を中心に第一線で華々しく運用されたが、お召し列車を牽引したことは一度もないまま終わっている。特に東海道本線・山陽本線系統では、現場の信頼も極めて高かったC59形がその任務にあたった。そのため、お召し列車牽引機としての特別整備を実施された実績は存在しない。ただし、特急「つばめ」がお召し列車の先導列車となった際に、その牽引機がお召し列車牽引機に準じた特別整備を施されたケース（C62 25・30）は存在している。

乗務員の間では、太いボイラーが運転台一杯に迫っていることに伴う狭さや、夏季の温度上昇など、運転台内部に余裕のあったC53形やC59形と比較すると、作業環境としては必ずしも良いとはいえない評価がなされている一方、C62形で採用された2軸従台車による高速安定性と振動の少なさ、自動給炭機による焚火労力の低減、D52形譲りの大形ボイラーと燃焼室がもたらした圧倒的な高出力による運転上の余裕など労働環境は好評価されている。

鷹取工場職員（当時）の今村潔によると、重心が高くなって安定が悪いのではと心配する意見もあったが、試運転をしてみると不安を一蹴する好成績だった、という[27]。
保存機

現存5両のうち3両が2016年4月に開館した京都鉄道博物館に所在する。うち、同館のC62 2は動態保存で車籍も有するが、法定検査を受けていないため、本線での運転は不可能である。
C62 1C62 1

1948年（昭和23年）1月17日に日立製作所笠戸工場で落成[3]。1月23日付で広島第二機関区に新製配置された後、1950年（昭和25年）8月23日に宮原機関区に転属し、東海道本線で特急「つばめ」・「はと」などを牽引した[3]。1957年（昭和32年）7月10日に再び広島第二機関区に転属されると、特急「かもめ」や寝台特急「あさかぜ」・「さくら」などを中心に牽引し[3]下関電化後も岩徳線直通など山陽本線列車の一部に充当されたが[3]、1966年（昭和41年）9月30日に急行「音戸」を牽引して広島 - 下関間を往復したのが最後の運用となり、同年10月1日付で第一種休車となった[10][28]。