小林が演劇を始めたのは、大学に在学していた時のことである[注釈 1][19][20][21]。入学時は作家を目指していた小林だが、芝居の実習で立て続けに主演を任されたことを機に、演劇研究会に所属するなど芝居の虜になったことで、自然と役者になった[22]。また、大学在学中には家城巳代治、今井正、山本薩夫といった監督の独立プロダクション系の映画に端役で出演していた[4][10]。

大学卒業後は国民文化研究所を経て、知人の紹介で劇団泉座へ入団[4][8][20]。入団当時の泉座は進歩主義の劇団だったことから、強い政治思想を持たない小林もしばらくは安保闘争に明け暮れたという[23]。この頃は、老舎の『駱駝祥子』などの中国戯曲→創作劇を中心に舞台役者として活動した[23]。そんな中、劇団の維持や生活のために多くのアルバイトも経験し、声優としての活動もそこから始まることとなる。

1958年[24]、舞台劇『ケイン号の反乱』の翻訳の腕を買われ、大学の同窓会で再会した吹き替え演出家の小林守夫の縁から吹き替え翻訳のアルバイトの話が持ち上がる[4][20]。マネージャーの紹介で東北新社の社長だった植村伴次郎に会い翻訳の仕事を始めるが、しばらくして植村から「お前、役者なんだろう？」と誘われことで吹き替えの仕事も始め、声優として活動するようになった[25]。

1960年、当時の役者仲間らとともに所属事務所である東京俳優生活協同組合（俳協）の創立に参加[26]。劇団泉座も俳協所属の劇団となった[25]。

当初は声優業と共に月に2本のペースで翻訳も手がけ、1962年放送の海外ドラマ『ジスマン・ドーソン』では初主演と同時に翻訳も担当する多忙ぶりであった[27]。その後、だんだんアテレコの仕事が忙しくなり、その頃は6畳ぐらいしかない家だった[10]。まだ結婚したばかりで、子供も小さかった[10]。その時は昼間アテレコの仕事をして帰ってきて、今度はハチマキして翻訳をしなくてはならなかった[10]。当時は東京都新宿区東大久保にいた[10]。@media screen{.mw-parser-output .fix-domain{border-bottom:dashed 1px}}しかし酔っぱらっていた仲間が、毎晩うちにほとんど夫婦だけでいることはないというぐらい来ており、一間しかないことからスタンド引き込んで、押し入れ入った[要校閲][10]。その人物たちはワーワー騒いでおり、小林は押し入れ入り、翻訳しなくてはならず、締め切りに間に合わないことから、「こりゃ大変だ」ということになった[要校閲][10]。その時に翻訳の仕事は次第になくなり、1971年頃に泉座が自然解消してからは声優業に専念した[28]。

1963年の『鉄腕アトム』以降はアニメの仕事もこなし、『ルパン三世』シリーズでは次元大介役を1971年の放送開始時から2021年10月まで担当していた[29]。
晩年・死去

2017年、多くのジャンルへの貢献が評価され第11回声優アワードで功労賞を受賞[30]。同年1月9日には、テレビ朝日にて放映された『人気声優200人が本気で選んだ!声優総選挙!3時間SP』で第18位に選ばれる[31]。2018年、東京アニメアワードフェスティバルにてアニメ功労部門を受賞[32]。

2021年10月、長年務めてきた次元大介役を高齢などを理由に勇退[29][33]。一方で、その他の出演作など声優業自体は以降も継続していた[34]。

2022年7月30日午前7時6分、肺炎のため東京都内の自宅で死去[9][13]。