和歌山県伊都郡かつらぎ町出身。和歌山県立笠田高等学校卒業。 父親は洋服の仕立て職人。母親と10歳年上の兄が居た。猛勉強をし、国立の和歌山大学教育学部附属中学校に入り、1時間かけて通学していた[2]。この学校を受験した理由は、当時恋愛に憧れを持っていた小林に友達が「あのな、和歌山大学（学芸学部）附属中学に通う女の子はかわいいらしいで」と耳打ちしたことにより、心底行きたいと思ったから。通学時も歩きながら勉強していたという[3]。中学生の頃から高倉健のファンで映画界に憧れを持っていた[4]。「おふくろに家を建ててやりたい」という一念で映画界を志す[5]。第10期東映ニューフェイスの試験日と大学の入試日が重なり迷った挙句、親には大学入試へ行くと嘘をつき、学生服姿で試験を受け合格した。同期に池田駿介・吉田豊明がいた。当初は本名で活動していた[6]。デビュー後の1960年代初めから1970年代中頃まで、主に東映東京製作による高倉健・千葉真一・梅宮辰夫ら主演のアクション映画・仁侠映画やアクションドラマ・刑事ドラマ・特撮番組などに出演。1967年のテレビドラマ『キャプテンウルトラ』でレギュラー出演をしていたが、初めてポスターに名前が刷り込まれた映画は1970年5月23日に日本で公開された映画『やくざ刑事』である[7]。後に深作欣二の推薦でピラニア軍団のメンバーになり[8]、映画『新仁義なき戦い 組長の首』では当初、バーテンダー役でワンシーンのみの端役出演だったが、監督の深作から主人公の弟分役へ抜擢された[注釈 2]。1978年の映画『冬の華』は忘れられない一本と述べており、「台詞が一言もない小林稔侍が抜群だ」と掲載された1978年5月24日付スポーツニッポンの映画評を宝物にしているという[11]。 1980年代前半までは脇役・悪役を演じていたが、1986年にNHKの連続テレビ小説『はね駒』で主人公の父・橘弘次郎にキャスティングされ、転機を迎える。 1989年11月14日にはテレビドラマ『なんでも屋探偵帳』で初主演。同作はシリーズ化され、このほかにも、表の顔は冴えない税務署の署員で、裏の顔は政界の"疑獄"を暴く税務調査官を演じる『税務調査官・窓際太郎の事件簿シリーズ』など、2時間ドラマで多数主演を務めた。2時間ドラマ枠に於いて、長年挙って映像化されてきた松本清張原作作品の常連俳優でもあった。 2018年公開の『星めぐりの町』で映画初主演[12]。男性タレント好感度ランキングで上位にランキングされた[13]。
来歴