生後すぐに父が北京に赴任し、0歳で北京に移る。日本に帰国した4歳の頃、祖母の晶子が死去している。祖父の鉄幹は馨が生まれる3年前に死去して会っておらず、晶子との思い出も殆どなく、祖父母は身内ではなく、教科書に載っている歴史上の人物であるような気がすると自身の著書で著している。父は戦時中にベルリンの日本大使館に勤務していたが、日本に残された家族の生活は困窮し、無賃乗車で母とともに交番へ連れて行かれたこともあったという。戦争末期に東京大空襲に遭遇している。港区立麻布小学校卒業後、麻布中学校に進学。

父がエジプト勤務になったときは、カイロ郊外・ヘリオポリスのイングリッシュスクールに編入学している。このころ、自分が敗戦国の国民であることを強烈に感じ、日本の文化・経済を一流にしたいという想いが生まれたという。その後、イギリスのオックスフォード大学への進学を目指し、一次試験までパスするが、考えを変えて日本に帰国。麻布高校に編入学し、平沼赳夫の同級生となる。東大受験に失敗するが、平沼によれば卒業式で表彰されるような優等生だった。駿台高等予備校（現駿台予備学校）で1年間の浪人を経て東京大学文科�T類に入学。いわゆる全学連世代だが、学生運動は一切関わらなかった。駒場時代は授業に失望して文学書を濫読。好きな分野は刑事法[3]。学生時代の記憶に残る本としては有島武郎の「カインの末裔」、後々まで自分の思考に影響を与えた本として、碧海純一「法哲学概論」、団藤重光「刑法綱要」などを挙げている。硬式野球部に所属し、マネージャーを務める。このときの2年後輩に新治伸治がいる。

1963年、東京大学法学部第3類（政治コース）卒業（三井住友銀行名誉顧問の岡田明重や元財務官の中平幸典は東大法学部の同期）[4]。母の知人・中曽根康弘の紹介で日本原子力発電に入社する[5]。日本原子力発電では、当初技術部に配属され、後に外交官となる今井隆吉係長の薫陶を受け、英語専門文献の翻訳なども手がけた。後に事務系に転じ、米国での資金調達や原子力保険といった金融業務に従事していた。

会社の命により、民社党の核拡散防止条約に関する訪欧調査団に原子力の専門家・通訳として同行、スイス、ユーゴスラビア、イギリス、イタリア、ドイツなどを訪問した。調査団メンバーは後の委員長佐々木良作を始め曽祢益、岡沢完治、渡辺朗。与謝野にとっては政治家と深く関わった第一歩であり、こうした民社党の面々とは政界入り後も親しい関係が続くことになる。佐々木と共にドイツ滞在中に中曽根康弘と邂逅、2人の政治家の食事のお供などをしたが、このことが政界入りの直接の契機となった。中曽根とは就職の斡旋以来、勉強会などを通じて親交があったが、帰国後にやはり同じ勉強会のメンバーであった渡邉恒雄を通じて秘書にならないかと誘いを受けた。
政界へ

1968年日本原子力発電を退職し、中曽根の秘書となる。この頃読んだシュテファン・ツヴァイクの「ジョセフ・フーシェ」は愛読書の一つであり、著書などでフーシェに触れることが多い。

1972年12月の第33回衆議院議員総選挙に旧東京都第1区から自由民主党公認で立候補するが落選する。この総選挙では、東大1959年入学同期3人（加藤紘一 、田中秀征、与謝野馨）の若手候補が立候補すると週刊誌に取り上げられた[6]。

1976年12月の第34回衆議院議員総選挙に東京1区から立候補し初当選。中曽根派に所属する[7]。

1979年の第35回衆議院議員総選挙で当時の大平正芳首相が打ち出した一般消費税による逆風を受け落選したが、1980年の第36回衆議院議員総選挙で、日本社会党委員長の飛鳥田一雄を抜きトップ当選し返り咲いた。以後、科学技術・通商産業関係を皮切りに、通商産業政務次官、自民党商工部会長、衆議院商工委員長などを歴任し、商工族、政策通として頭角を現す。中曽根派に所属しながらも、1990年に竹下派の実力者であった梶山静六の下で国会対策委員会副委員長を務めた縁で「梶山門下」を自称する師弟関係を形成した[8]。その後、梶山は1991年に国対委員長に再任されると再び与謝野を副委員長に起用したほか、1992年に幹事長に就任した際には議院運営委員長に指名するなど重用した[9]。

1994年、自民党が政権復帰した村山内閣（自社さ連立政権）で文部大臣として初入閣。