大学4年生になった頃、まだまだ音楽を勉強したいとの思いから、国立音楽大学大学院声楽専攻に進学[2]。この頃からタンゴ喫茶のステージで歌わせてもらったり、後日関の紹介で知り合った服部良一のコンサートにも出始める。正式に服部の弟子となった後、いくつかのレコード会社の口利きをしてもらうが、中々所属先が決まらない日々を過ごす[2]。

先述のタンゴバンド「早川真平とオルケスタ・ティピカ東京」での歌手デビューを経て、ポリドールからソロ歌手としてレコードデビュー[2]。『知りたくないの』の発売後、札幌のダンスホールや銀座のクラブホステスの間で徐々に人気が出始め、その後大ヒットに繋がった[2]。菅原が後に聞いた話では、所属先から「売れない歌手の君を、このレコードを最後にクビにするつもりだった」と打ち明けられ、同曲がヒットしたことで契約を打ち切られずに済んだとのこと[2]。
私生活

家族は妻の菅原明美（旧姓・平井明美。1962年11月17日、東京・銀座の東京都中小企業会館にて菅原洋一と挙式。）、長女の菅原歌織[注釈 5]、長男のピアニストである菅原英介[注釈 6]。

歌織は、成蹊中学校・高等学校を経て、成蹊大学文学部英米文学科を卒業。成蹊大学在学中の学生時代には、フジテレビ「オールスター家族対抗歌合戦」のアシスタント（1984年7月?1986年3月）を務めた。成蹊大学を卒業後はソニーに入社。1993年の結婚を機にソニーを退職，高瀬姓となる。

英介は、幼い頃から菅原の影響を受けて音楽に興味を持ち、高校卒業後単身で渡米。現在(2016年頃)は作業療法士として働きながら作曲・演奏活動を行っている[3]。他にも菅原と演奏会で共演したり、デュエット・アルバム(アルバムの欄を参照)を発表している。

菅原と妻との出会いは菅原が歌手デビュー前にタンゴ喫茶のステージで歌っていた頃、たまたま人に付き添って来店した妻(当時、女子大生)と親しくなりその後結婚。ただし菅原が売れない歌手だったことから、両家の親から反対されたため駆け落ち同然で結婚し、しばらくは六畳一間の部屋で夫婦で貧乏生活を送った[2]。

ちなみに菅原姓について菅原は、「昔僕が家族(父親など)から聞かされた話」として以下のように証言している。「菅原の姓は、大昔に政争に破れた菅原道真が京都から太宰府に下向する際、たまたまうちの先祖が自宅(現在の加古川市)で長期間宿を提供した。旅立つ前に道真公から大変感謝された先祖は菅原姓を拝領し、それから菅原姓を名乗るようになったそうです。本当の話かは分からないですけど、とりあえず僕は信じています」[2]。
その他

「生涯現役」をモットーにしている。加齢により普段の話し声はかすれることもあるが、本人は「歌う時は、声の出し方が違うため大丈夫」としている[2]。

趣味は、写真、ドライブ。普通自動車第一種免許と4級小型船舶免許を所有している[3]。
ニュークラシカルコンサート

ニュークラシカルコンサートとは、円熟味を増した菅原の「歌声をいかにお楽しみいただくか」に拘り、敢えてクラシックスタイルに立ったコンサート。最小限の音飾で「生の歌声と生音の演奏」が中心。菅原自身もライフワークと語るこの新しいコンサートスタイルを全国クラシックホールを中心に展開している。このコンサートのスタジオ録音盤というべきアルバムもリリースしている。

菅原洋一　New Classical Concert ?日本の唄?（2005年 ユニバーサルミュージック）

菅原洋一　New Classical Concert Vol.2　?世界の唄?（2006年 ユニバーサルミュージック）

菅原洋一　New Classical Concert Vol.3　?父と子の唄?（2007年 ユニバーサルミュージック）

受賞

1968年 - 「誰もいない」で日本レコード大賞歌唱賞を受賞。

1970年 - 「今日でお別れ」で日本レコード大賞を受賞。

1975年 - 「乳母車」で東京音楽祭歌唱賞を受賞[1]。

1977年 - 「第11回リサイタル」で芸術祭に参加し、優秀賞受賞[3]。

1978年 - 「歌手生活20周年記念アルバム」で日本レコード大賞・20周年記念顕彰を受賞[1]。

1982年 - アルバム「ホテル?それぞれの人生」で日本レコード大賞企画賞を受賞[1]。

1992年 - 第1回加古川市民文化賞を受賞[1]。

2008年 - 日本レコード大賞功労賞受賞[1]。

2018年 - アルバム「?歌い続けて60年? ふり返ればビューティフルメモリー -85才の私からあなたへ-」で第60回日本レコード大賞企画賞受賞[1]。

2019年 - 文化庁長官表彰を受賞。