東京府(現:東京都)出身[1][2]。第二次世界大戦中にナチスの高官が来日した際、学徒動員により歓迎の日の丸の旗を振りに行ったこともある[11]。
1946年、NHK放送劇団第2期研究生を皮切りに演劇界へ入り、ラジオ東京放送劇団(1952年)、東京俳優生活協同組合(1969年)を経て、1972年に江崎プロダクション(現:マウスプロモーション)へ所属。以後、亡くなるまで在籍していた。
初期はラジオドラマやテレビドラマを中心に活動。この頃、当時大学4年生の倉本聰が書いたラジオドラマ『この太陽』に加藤治子と2人で主役を演じたり[12]、1955年からTBSテレビで放送開始された特撮時代劇『猿飛佐助旅日記』では俳優として主演も務めた[13]。
1950年代から、『不二家の時間』で放送された『ラマー・オブ・ジャングル』の主役(ジョン・ホール)や『西部の男パラディン』の主役(リチャード・ブーン)など海外ドラマの吹き替えに勤しむ。以降は声優としてさまざまな媒体に数多く出演。
1963年に設立された日本放送芸能家協会(現:日本俳優連合)の設立発起人195名の一人であり[14]、実際に融資に応じた発起人83名のうちの一人でもある[15]。
80歳を超えても精力的に活動を続け、新海誠監督の『星を追う子ども』(2011年)や細田守監督の『おおかみこどもの雨と雪』(2012年)などのアニメーション映画、『ハリー・ポッターと死の秘宝 PART1』(2010年)や『ホビット 決戦のゆくえ』(2014年)といった劇場公開用の吹き替えに出演。しかし、晩年は足を悪くしており、2015年に収録した『小さな恋のメロディ』では座りながらの収録であった(この時87歳であった)[16]。
2017年12月19日、同年12月14日に死去したことが発表された。89歳没。死因は非公表。葬儀は近親者で済ませた[17]。第12回声優アワードでは、特別功労賞に代えて同年度に死去した声優として他の物故者とともにを顕彰された[18]。この席上では名前だけでなく、事務所プロフィールの写真と代表作[注 1]がスクリーンに映し出され、大木のサンプルボイスの一つ『ふしぎ工房症候群』(ふしぎ工房の老人)の音声が会場内で流された。 アテレコ草創期から活動。キャリア最初期は主演が多かったが、後に脇へまわり重要な役どころを演じるようになった[19]。 声自体は太くないがしゃべり方に威厳があり、敵味方および役柄を問わず権力者を担当することが多い[19]。B級作品の出演では「威厳あるしゃべり方で映画の質を少しばかり上げることに貢献している」と評されることがあった[19]。 洋画ではランドルフ・スコットの西部劇、ロバート・デュヴァル、マックス・フォン・シドー、ジョージ・C・スコット、ロイド・ブリッジス、クリストファー・プラマー、シーザー・ロメロなどの渋い個性派やピーター・カッシング、クリストファー・リー、ヴィンセント・プライスなどの怪奇スターの吹き替えまで数多くの作品で担当している。
特色