1950年（昭和25年）10月1日ダイヤ改正で、東京 - 大阪間の特急「つばめ」・「はと」を従来より1時間短縮した8時間で運転することとなり、運転曲線と牽引する客車の換算両数が再検討され、C59形では性能的に限界に近いと判断された。このため、当時東海道本線・山陽本線で運用されていたC62形各車は浜松、名古屋、梅小路、宮原の4区に集中配属となり、中でも特に調子の良いものが宮原、浜松の両機関区[注 6]に集められ、これらを整備の上、当時非電化の浜松 - 京都間から戦前に電化されていた大阪駅までの牽引に充てることとなった。宮原機関区では配属車両の中でもC62 29・35をはじめとする好調機[3]、普通機、C62 2などの不調機と、識別のためにそれぞれナンバープレートの色を変更した上で3グループに分けられ、トップグループから優先的に急客牽引に充当された。

C62形は、上述のごとき特急運用でその性能をいかんなく発揮し、列車運転時分の短縮に貢献することができた。特に宮原機関区では、機構上石炭くずが発生しやすい自動給炭機の使用を控えて人力で投炭することにより、乗客にとって不快なシンダ（煙突から排出される石炭の燃えカス）の発生を抑えたと伝えられている。C62形の大きな火格子面積や、関ヶ原越えを含む厳しい線路条件に求められる燃料量などを考慮するならば、この人力投炭は、きわめて過酷な労働であったと推察される[要出典]。

東海道本線の電化区間が名古屋、稲沢、米原と西に伸びるに従って、C62形をはじめとする本線用蒸気機関車の運用区間は縮小されていったが、1956年（昭和31年）11月19日ダイヤ改正における東海道本線全線電化完成により、全区間でその座をEF58形電気機関車に譲るまでは非電化区間で特急「つばめ」・「はと」の牽引機を務め、1954年（昭和29年）以降は名古屋機関区と宮原機関区所属車の一部に重油併燃装置を取り付けて特急「つばめ」・「はと」の牽引定数をそれまでの500 tから550 tに引き上げた[5]。

東海道本線で運用されていたC62形は、電化の進行に伴い7両（C62 2・3・27・30・32・42・44）が軽軸重形に改造のうえ後述する北海道へ転出したが[1]、多くは梅小路、広島第二、さらに下関などの機関区へと転属し[6]、C59形とともに山陽本線を主な運用区間として京都 - 博多間の特急「かもめ」や寝台特急「あさかぜ」・「さちかぜ」・「はやぶさ」・「みずほ」、急行「きりしま」・「筑紫」・「雲仙」・「阿蘇」などの、当時を代表する優等列車の牽引に充当された[1]。なお、1958年（昭和33年）8月14日に岩国市付近の踏切にて、上り特急「かもめ」を牽引していたC62 4と進駐軍のトレーラートラックが衝突する事故が発生し、同機は1960年（昭和35年）1月27日付でC62形最初の廃車機となっている[3]。

1956年（昭和31年）11月19日ダイヤ改正の寝台特急「あさかぜ」新設後も山陽本線を通る優等列車は増強され、1958年（昭和33年）に登場し増備が続けられた20系客車も姫路 - 下関間ではC62形が牽引した。しかし、特急「かもめ」が1961年（昭和36年）にキハ82系の導入で気動車化され、寝台特急や急行列車の牽引区間も幹線電化の進展によって姫路駅、岡山駅、ついで広島駅以西と次第に狭められていき、1964年（昭和39年）10月1日には山陽本線の全線電化完成に伴い定期特急運用が一旦消滅[1]、下関機関区配置車は全車が電化完成前日の9月30日に広島機関区（旧広島第一機関区）・広島運転所（旧広島第二機関区）へと転属[注 7]した[7]。広島機関区・広島運転所の配置車は急行「音戸」の広島 - 下関間など電化から漏れた山陽本線西部・岩徳線の一部列車に充当され[8]、1965年（昭和40年）からは山陽本線の補助線として特別甲線規格で整備されていた呉線を受け持つため蒸気機関車の配置区として残されていた糸崎機関区に広島機関区・広島運転所からC62形が順次転属、呉線経由で運転されていた急行「安芸」などを糸崎 - 広島間で牽引する運用へC59形とともに充当され続けた[9][1]。もっとも、これらの運用に充てられたC62形も急行「音戸」の広島 - 下関間牽引は1966年（昭和41年）9月で電気機関車に置き換えられ[10]、1967年（昭和42年）には岩徳線運用のD51形置き換えにより[11]広島機関区・広島運転所の配置車が全廃となるなど次第に数を減らし、呉線直通列車以外の山陽本線運用は糸崎機関区からの機関車回送を兼ねて残された糸崎 - 広島間の下り普通列車1本と一部の臨時列車を除き1968年（昭和43年）10月1日ダイヤ改正までに消滅した[12]。

呉線の運用では、1967年（昭和42年）10月1日の常磐線全線電化（後述）で余剰となった軽軸重形5両（C62 23・37・46 - 48）が同年10月上旬から順次平機関区から糸崎機関区に転属[1][13]、同区で廃車対象となっていた重軸重形5両（C62 5・14・18・25・34）を置き換えた一方で軽軸重から重軸重形への改造は行われないまま使われていたが、編成重量が呉線内の単機牽引定数一杯となる12両編成、460 tであった急行「音戸」を牽引した際には16‰前後の勾配区間が連続する安登駅周辺で空転が頻発したため、1969年（昭和44年）1月から編成重量の比較的軽い[注 8]「安芸」は重軸重・軽軸重形問わずC62形の牽引が基本となる一方[注 9]、「音戸」などの重量列車牽引はより軸重の重いC59形限定運用と分離され[14][15]、同年中には軽軸重形3両（C62 46 - 48）が、翌1970年（昭和45年）3月にはC62 41が廃車となり[3]、糸崎機関区ではC62形に運用の余裕がなくなったことから一部の旅客列車運用をD51形が代走することもあった[16]。呉線の電化工事は1970年（昭和45年）8月に完成、同月22日からは一部の蒸気機関車牽引列車に電気機関車を連結して訓練を行う電蒸運転、9月15日からは上り「安芸」などで電機単独運転も行われるようになり、山陽本線・呉線での運用は1970年（昭和45年）9月30日[注 10]が最後となった[17][18]。最後まで運用された5両のうち2両（C62 15・16）は小樽築港機関区へ転属[1]、C62 17は稲沢第一機関区を経て名古屋市内へ保存の手配がとられたが、常磐線電化による転属車で最後まで残った2両（C62 23・37）は廃車となり、糸崎機関区からはC62形の配置がなくなった。これをもって、C62 1の新製配置以来22年に渡った、東海道・山陽本線系統での運用は終了した[1]。
東北本線・常磐線

まず、1949年（昭和24年）3 - 4月に落成した軽軸重形の8両が尾久（5両：C62 45 - 49）、宇都宮（3両：C62 19 - 21）の各機関区に配置された。さらに、山陽本線沿線の機関区に新製配置された初期製造車のうち11両が軽軸重形に改造の上、同年6月までに尾久（2両：C62 38・39）、宇都宮（1両：C62 8）、白河（3両：C62 9 - 11）、水戸（5両：C62 7・22 - 24・37）の各機関区に転属、[1][3]、東京以北区間でのC62形運用はこれら19両で開始された[1][3]。

運用開始から約半年を経た1949年末から1950年（昭和25年）9月にかけて尾久・宇都宮・水戸配置車は白河機関区と平機関区へ転配が行われ[3]、白河機関区の11両（C62 8 - 11、19 - 23・37・38）は東北本線の白河以南[注 11]、平機関区の8両（C62 7・24・39・45 - 49）は常磐線の平以南で急行列車・長距離普通列車を中心に運用されていた。その後東海道本線の電化が進み、1955年（昭和30年）以降にC59形が白河以南の東北本線用として宇都宮機関区へ転属、さらに仙台以南まで運用区間が拡大されたことから白河、福島第一、仙台の各機関区へも配属されることとなり、C62形はC59形の東北本線転用が始まる直前の1954年（昭和29年）9 - 11月にかけて白河機関区所属車が尾久機関区に転配、常磐線中心に運用されることとなり、入線区間も平以北へ伸び仙台まで列車を牽引することとなった。