セ・リーグ会長の鈴木龍二は金田に対して、同年の順位の下位球団である、中日（6位）・広島（4位）と入団交渉するように指示。中日は地元名古屋出身の金田を強く勧誘し、契約金1億円を提示したとも言われるが、金田は拒否[18]。次に、同年3位の巨人と交渉してまとまり、12月24日に巨人への移籍が正式に発表された[19]。契約金7000万円、年俸2000万円（いずれも推定）とされる[18]。

金田の巨人入団には、巨人ナインも金田に見習ってほしいという監督・川上哲治の思惑があった。金田入団後、巨人選手は「あれだけの実績を上げた人が俺達よりも走っている」と感嘆したという。長嶋も金田から身体作りの手ほどきを受けスランプを脱した。巨人時代の金田の成績はわずか47勝しかないが、選手の意識改革を促してチームの9連覇に貢献した。川上は金田のプライドを尊重し、勝ち星こそ少ないものの、金田が巨人に在籍した5年間で日本シリーズ第1戦先発に3度（1965年、1967年、1968年）、公式戦の開幕投手にも4度（1965年、1967?69年）指名している。大舞台に数々の修羅場をくぐってきた金田の経験を活かしたい川上の思いに、金田も見事に応えて好投した。そんな金田も、ある試合で本塁打を打った長嶋の頭を叩くなどしてホームで手荒く出迎えたところ、チームメイトから一斉に冷ややかな視線を向けられた。国鉄時代は「天皇」の異名を取った自分も巨人においては外様に過ぎないのだと思い知らされたという。

1965年4月10日の開幕戦（対中日）で先発に起用されると、2失点で完投勝利を飾る。またこの試合では6回に自ら試合を決める本塁打も放っている[20]。翌々日の4月12日の阪神戦では、柿本実が長嶋に対して際どいシュートを投げたことから乱闘騒ぎになり、柿本を突いたとして柳田利夫と共に2度目の退場処分を受けた。この年は巨人への移籍により登板数が減るが、主戦投手として6月初旬までに6勝を挙げる。梅雨の到来とともに持病の左肘痛が悪化して調子を落とすと、約3ヶ月勝ち星から見放される。9月8日の対サンケイ戦で久々に7勝目を挙げると、閉幕までに5勝を重ねたがシーズンでは11勝に終わる。結局、連続シーズン20勝の記録は14年で途切れるが、防御率1.84で3度目の最優秀防御率のタイトルを獲得した。なお、この年は不調の夏場に約1ヶ月間一軍選手登録を抹消され、9月4日の対東映戦では生涯唯一となる二軍での登板を果たした[21]。南海との日本シリーズでも開幕戦に先発して完投勝利を飾るなど[22]、2勝を挙げている。

1966年は左肘の調子が思わしくなく、開幕から3試合連続ノックアウトされて戦列を離れると[23]、シーズンを通じて4勝に終わる。1967年は復活し、城之内邦雄（17勝）に次ぐ16勝に防御率2.28（リーグ4位）を記録。以降は徐々に成績を落とし、1969年10月10日の中日戦で日本球界初の通算400勝を達成。同年11月30日に記者会見を行い、現役引退を正式に表明した。巨人での背番号34は球団では4例目となる永久欠番に指定された。

金田は当初は引退するつもりがなかったが、石原慎太郎に「もう400勝を区切りに身を引くべきだ」と諭された。金田は「わしはまだできる」と抵抗したが、石原の「誰もあなたが打たれるのを見たくはない。なぜならあなたは金田正一だからだ」というセリフに、最終的には引退を受け入れた。このエピソードが『文藝春秋』に石原本人の執筆で掲載されたことがある。CS日本「巨人の魂」での金田の証言によると、川上が試合前のミーティングで金田に400勝をさせて辞めてもらおうと言ったという。金田がそれに気づいたのは400勝達成の胴上げの際、長嶋が泣きながら「御苦労様でした」と言ってきたことだった。

引退会見では長年の酷使で左腕が伸びきらないことを披露。この場面は野球漫画「巨人の星」にも描かれた。ただし、引退後に左腕は再びまっすぐ伸びるようになっている[注 2]。

翌1970年4月2日に後楽園球場で古巣・ヤクルトとのオープン戦にて引退試合が行われた。
引退後
第一次ロッテ監督時代

引退後は日本テレビ（1970年 - 1972年）・ニッポン放送（1972年）で解説者を務める傍ら、タレントとしても活動していた[24]。同時に実業家で会社を経営する経営者でもあった[25]。1972年11月17日、ロッテの監督に就任[25]。年俸は2400万円で巨人・川上哲治に次ぐ金額で新人監督として異例の好条件であった[25]。「新人監督なのに年俸が高すぎる」という関係者もいた（阪急で黄金時代を築いていた阪急の西本幸雄監督の年俸は1300万円だった。）[25]。しかし金田は「順調だった仕事をなげうってまで監督を引き受け引き受けようとしてるんやで。ワシの今までの働きからすれば安いもんや」と一蹴[25]。