長身の新人二枚目スターの一団「ハンサムタワーズ」の一人として、吉田輝雄・高宮敬二・寺島達夫らと共に売り出された。主演作も多かったが、当時の新東宝は経営不振で低予算映画が主力路線だったため、世間的な知名度はそれほど高くなかった。この時代の映画としては『九十九本目の生娘』や1960年（昭和35年）の正月映画『女奴隷船』に主演して丹波哲郎とのアクション対決を演じた。

1960年に入ると、新東宝の経営が傾き、組合争議によって2回にわたり24時間ストが行われる。菅原はこの組合争議では陣頭で交渉役を任じている[16]。

1961年（昭和36年）に新東宝が倒産したため、ハンサムタワーズのメンバーと共に松竹へ移籍。メロドラマやホームドラマなど、女優主体の企画が多い松竹では脇役に甘んじる状態が続く中[† 5]、俳優の安藤昇に勧められ、ハンサムタワーズのメンバーと共に1967年（昭和42年）に東映へ移籍。
東映時代

東映に移籍はしたものの、ほとんどセリフの付かない役ばかりで、役を貰えないかと新東宝仲間である石川義寛監督の下宿を訪ねることもあったといい、東映京都撮影所作品『怪猫呪いの沼』（1968年）での端役も、石川監督が気の毒がって起用したものだったという[16]。翌1969年（昭和44年）の『現代やくざ 与太者の掟』が、東映での初主役作となる。この「現代やくざシリーズ」は1972年（昭和47年）まで続く作品群で、ヤクザを美化した従来の任侠映画ではなく、現実的な「ワル」を主人公にしたものであり、後の実録映画の先駆けとなった。また、同年には『関東テキヤ一家』シリーズ、1971年（昭和46年）からは『まむしの兄弟』シリーズに主演。

1973年（昭和48年）から始まった『仁義なき戦い』シリーズで、東映を代表するスターのひとりになった[17]。映画史に残る作品にもなったこのシリーズのヒットで東映は任侠路線から実録路線に転換[17]、1974年（昭和49年）末からスタートした『新仁義なき戦い』シリーズや1975年（昭和50年）に始まる『トラック野郎』シリーズ（一番星・星桃次郎 役）もヒットした[18][19]。
テレビドラマ・声優

新東宝時代より長らく映画に専念してきたが、1980年（昭和55年）に大河ドラマ『獅子の時代』に主演。その後、大河ドラマでは『武田信玄』の板垣信方、『徳川慶喜』の徳川斉昭、『元禄繚乱』の細川越中守綱利、『利家とまつ?加賀百万石物語?』の前田利昌で出演した。1981年（昭和56年）に映画『青春の門』、『炎のごとく』に主演。その後は刑事ドラマなど、テレビドラマの主演・助演をしていた。東映時代は接点がなかった市川崑作品でも常連となっている。

1998年（平成10年）から約10年間、岐阜県大野郡清見村（現在の高山市清見町）に移住[20]。農業政策等に高い関心を示し、多数の講演活動も行った。また、ナレーター・アニメーション・コンピュータゲームの声優もこなすなど、幅広く活躍した。

2001年（平成13年）に俳優の長男菅原加織を鉄道の踏切事故で亡くし、周囲に「もう仕事したくない」と漏らしていたが、2003年（平成15年）放送のテレビドラマ『高原へいらっしゃい』で復帰。同年公開の映画『わたしのグランパ』で9年ぶりの最後の主演を果たした。

2007年（平成19年）に膀胱癌が判明し、筑波大学附属病院にて手術せずに放射線や陽子線治療による膀胱温存療法を受けた[21][22]。
東京への嫌悪と田舎暮らし

1980年代ごろに日本映画界、特に東映がアクション映画やポルノやテレビに乗り出してゴタゴタしているのを見ているうちに、そんな混乱を生み出している原因である、すっかり都会化し商業主義的になった東京が嫌いになり、消費社会というものに強い疑問を感じるようになり、一方でもともと岐阜には別荘を買って持っていたので、東京から離れるために、1998年にその岐阜県清見村に妻と一緒に移住し、田舎暮らしを始めた[23]。
俳優引退

2009年（平成21年）より山梨県韮崎市で耕作放棄地を使って農業を始める。当時、俳優業は「半分引退した」と語った。

2012年（平成24年）2月初旬、2013年1月に公開予定の『東京家族』（監督・山田洋次）主演から既に降板したことを発表。2月23日に都内で行われた「第64回日本消防協会定例表彰式」に出席した際にプレスインタビューに応じて映画を降板した理由として、クランクイン直前に東日本大震災が発生。故郷の宮城県をはじめ被災地で、公私ともに苦しい生活の続く人々が多いなか「どういうテーマであれ、今は映画を撮っている時じゃない。それは（山田洋次）監督も同じ考えだった」と語った。菅原はこの席で震災以後、劇映画の存在理由が見いだせないことを語った上で、自身が震災直前まで都内の病院に入院していたことも告白している[24]。

2012年（平成24年）11月13日、菅原が名誉顧問を務める民間非営利団体「ふるさと回帰支援センター」の設立10周年記念講演の席上で、56年に及ぶ役者生活にピリオドを打った旨を明らかにした。この時「デジタルはお断り」というコメントも発表しており、映像製作環境の変化にも言及している。12月5日には有志らとともに国民運動グループ「いのちの党」を結成し、代表として活動した[25]。なお、「いのちの党」と名称が付いているが、あくまで「仲間の集まり」の意であって政界進出を意識してのものではないという。また、以前より噂されていた政界への進出は完全否定をした[26]。入院直前の11月1日には、沖縄知事選候補の翁長雄志の応援演説に出席していた[27][28]。また、自分の「がん完治」体験を元に、「がん克服」をテーマにした講演を入院直前まで度々行っている[29]。第46回衆議院議員総選挙（12月16日投票）にあたっては、小沢一郎らが結党した日本未来の党の賛同者に名を連ねたほか、松本龍の個人演説会で応援演説を行なった[30]。

引退宣言以降もラジオでレギュラー番組『菅原文太 日本人の底力』のパーソナリティ、テレビドキュメンタリーのナレーターやCM出演などは務めており、2012年7月公開のアニメ映画『おおかみこどもの雨と雪』にも声優として出演。