初当選後の取材で「二世批判はあるでしょうが、政治家の息子とはいえ私は50歳代。独立した一人の人間として見ていただきたい」と語っていたが、「おじいちゃんのあとを継いだおじいちゃんだから」などと漏らしてもいた[13]。以後6回当選する。50歳以上初当選組のクローニンの会に所属している。
議員としては、外務政務次官、衆議院外務委員長、党外交部会長を務めるなど、初入閣までは主として外交関係のポストで地歩を築いていった。
2000年10月に第2次森内閣で、女性スキャンダルが問題視され辞任した中川秀直に代わって内閣官房長官に就任する。後任人事として小泉純一郎や尾身幸次があげられていたが、当時森派会長だった小泉が「本人の能力、人間性、人格などすべてを勘案し、今の時点で一番適任」[14]、と考え推薦した。閣僚経験が皆無であったにも関わらず、森内閣で官房長官に起用されたことに疑問の声も上がったが、父親の首相時代に首相秘書官を務めていた経験が生き、無難に調整役をつとめた。森内閣においては首相の失言やKSD事件、外交機密費流用問題などの弁明に追われることも多く、「弁明長官」と呼ばれた。
その後小泉内閣では2度にわたる内閣改造でも留任。 在任期間が延びるにつれ、首相に直言できる女房役としての存在感は次第に増していくことになった。官房長官の記者会見で垣間見える冷笑的態度から、ネットの匿名掲示板では「フフン」というあだ名がついた。
実務能力には定評があり、官邸主導の政治体制が確立していく中で、政府各省や与党との調整に力を発揮した上、本来の得意分野である外交における存在感も徐々に増していった。小泉内閣では、外務大臣田中眞紀子と外務省官僚との軋轢を巡る騒動の中で外務省が機能不全に陥った時は、大臣の頭越しに自ら外務省事務方への指示を行った。そのため、外務官僚が外務大臣よりもまず官邸に赴くことが常態化したため、「影の外務大臣」などと囁かれた。
田中の後任には川口順子が就任したが、川口は民間人閣僚のため与党内に基盤を持たず、福田の外交への関与はその後も続き、官房長官を退任するまで官邸外交を取り仕切ることになった。
男女共同参画担当大臣を兼任し、「2020年までにあらゆる分野の指導的地位に占める女性の割合を30%にする」という数値目標などを掲げた[11]。また、沖縄開発庁長官として沖縄科学技術大学院大学の設立構想で関係閣僚会合を開くなどして主導、女子暴行事件の容疑者引渡し交渉など米兵による事件にも対応した[15]。こうした経験から、首相就任時に沖縄に関して理解を示す期待が一部でされた[15]。ハンセン病補償法訴訟の控訴断念にも一役買い（後述）、政府の公式謝罪をした[16]。
在職中は、台湾前総統の李登輝が病気治療目的で来日を希望した際に、中国への配慮から、外務大臣河野洋平と共にビザ発給に反対したといわれる。また、北朝鮮による日本人拉致問題に関し、「終始冷淡な態度をとっていた」と家族会は語っている（#エピソードの項を参照）。
中国や韓国等の、靖国神社参拝に反対している国の意見などにも一定の配慮をすべきこと、憲法改正には周辺国の理解が必要と主張していることなどから、反米保守（ナショナリスト）グループから「親中派」、「媚中派」などと批判されることもある。特に、『文藝春秋』とその系列メディアが官房長官在任期間中ほぼ毎回福田批判記事を掲載したことに激怒し、『文藝春秋』から政府広報の広告を引き上げさせたとの報道も一部でなされた（2004年から数ヶ月間、『文藝春秋』の誌面から政府広報が一切無くなった）。
2004年4月、内閣官房長官の在任記録が1259日となり、それまで歴代1位だった保利茂の在任記録を更新し、会見で「秘密主義長官、影の外務大臣、影の防衛庁長官。いろいろ名前はありますが、まあ、しょせん影ですから」と語った[14]。
4月28日に「（国民年金保険料を払っているか否かの公表は）個人情報でそういうものを開示すべきではない」、「犯罪ですか?」云々との旨の本人発言直後に、保険料未納が発覚する。当初未納期間は、1990年2月から1992年9月の間と、1995年8月から1995年12月までの間の合計3年1ヶ月間となっていたが、辞任直前、週刊文春が1976年11月から1990年2月までの間の内の、5年8ヶ月間も同じく未納であったことを報じた。
政治家の年金未納問題も参照
2004年5月7日 定例記者会見の席で官房長官の辞任を表明。在任日数1289日。「風のごとく来りて、風のごとく去るということだ」との言葉を残して官邸を去った[17]。
ポスト小泉2004年10月、赤坂プリンスホテルでの後援会パーティーにて
