戦後は、群馬県太田市に疎開していた家族のもとに戻り、復学した法政大学に太田から4、5時間かけて通った。卒業後は、進駐軍の通訳として働くが、黒人兵とケンカして1年で退職する[2]。

米の配給票が必要で、それを入手するには東京で就職するしかなく、「つなぎ」の仕事として東宝第2期ニューフェイスに応募するも、試験の時間に間に合わず断念。続いて1947年に大映演技研究所の3期生募集に応募、見事合格する。しかし、本来は俳優志望ではなかったため、その頃はあとで別の職を探すつもりだったという[2]。

しばらく仕出しが続くも、1949年『母三人』（中代富士男監督）で本格デビュー。1950年の『二十歳前後』で主役を演じてから、役に恵まれるようになり、特に1951年の『牝犬』（木村恵吾監督）のバンドマン役で注目され、根上の出世作となった。その後は大映の若手スターとして活躍。1956年6月23日には渡米してMGM映画『八月十五夜の茶屋』にも出演している。帰国時の模様は同年の大映オールスター映画『スタジオは大騒ぎ』の中でも紹介されている。1967年に大映を退社、その頃には映画出演作品は100本を越えていた。

以降は活躍の場をテレビドラマに移し、NET『白い巨塔』（里見脩二役）や、降板した塚本信夫の後任としてTBS『帰ってきたウルトラマン』（伊吹竜隊長役）に出演するなど、存在感のあるバイプレーヤーとして多くの作品に出演した。なお、それまでのウルトラシリーズでは隊員服は隊長含めて全員同じだったものが「階級の違いを表すものをつけてほしい」という根上の希望[3]で隊員服の胸にある太いV字のラインの上に細いラインが足されることになった[4]。初登場時に搭乗していた戦闘機、マットアロー2号も機首と垂直尾翼に黄色のラインが2本入った専用機である。

1964年、長門裕之・南田洋子とともに人間プロダクションの設立に参加[5]。

1965年、根上の大ファンであった歌手のペギー葉山と結婚し1968年には長男が誕生、結婚後も夫婦で本を出版し、書道の展覧会に二人で出展するなど芸能界一のおしどり夫婦として知られていた。また根上が『帰ってきたウルトラマン』、妻のペギーが『ウルトラマンタロウ』（ウルトラの母役）と夫婦それぞれウルトラシリーズの作品に出演している。

時代劇作品などでは悪役も演じているが、戦争映画への出演、特に軍人役は拒否し続けた[6]。1996年には戦争で生き残った大学の同級生と法政大学多摩キャンパスに平和記念碑を建立している。

1998年8月、糖尿病の合併症による脳梗塞で倒れたため芸能活動を休止し自宅で療養していたが、2005年10月24日午後3時54分に死去した。82歳没[7]。告別式の模様はテレビで中継され、長門裕之と愛川欽也が弔辞を述べた。ペギーは、末期の水として新婚旅行で買ったブランデーを根上の口に含ませた。また、棺には愛用の帽子、ステッキと愛猫の写真、前夜にペギーがしたためた「ラブレター」などが納められた。墓所は取手市弘経寺。

根上が亡くなる直前、妻であるペギーは『ウルトラマンタロウ』のDVD発売記念イベントに参加しており、ゲストからのビデオメッセージには根上の容態を気遣う励ましの言葉が多く寄せられた。また、死去当時『帰ってきたウルトラマン』の再放送を行っていたファミリー劇場では、放送開始前に根上の死を伝えると共に冥福を祈る内容のテロップを表示した。

『帰ってきたウルトラマン』第43話「魔神月に咆える」の中で、マット赴任後無休である隊長を気遣った隊員達に後押しされて取った休暇を使っての、嫁の実家への里帰りの車中、助手席の娘がスイッチを入れたラジオから流れてきた、実の妻ペギー葉山の楽曲「南国土佐を後にして」を楽しそうに聞くという、遊び心のある演出のシーンが盛り込まれている。

『帰ってきたウルトラマン』で岸田文夫隊員を演じた西田健は、根上が亡くなった後に自身のファンサイトの掲示板で『伊吹隊長に敬礼!』とコメントを書き込み、根上をしのんでいる。