1972年、福田赳夫と田中角栄の争う総裁選では、自身も出馬するも日中国交樹立に積極的な田中を支持し田中は当選、田中内閣における副総理兼環境庁長官に就任する。しかし、1974年の参議院選挙の1人区の徳島県選挙区で、新人で田中角栄が後藤田正晴を自民党の公認候補として三木派で現職の久次米健太郎を非公認としたことから三木は反発し、分裂選挙となる（三角代理戦争）。選挙では久次米が再選されるも、今まで関係の良かった田中首相と大きく対立し、単独で副総理を辞任。1951年、国民民主党幹事長として代表質問1952年、改進党結成、幹事長に就任。左から三木、重光葵総裁、楢橋渡1975年、フランスイル＝ド＝フランス地域圏イヴリーヌ県ランブイエにて第1回先進国首脳会議（ランブイエサミット）に出席
1974年12月田中総理の内閣総辞職で行われた後継総理選出において、椎名悦三郎副総裁の指名裁定で総裁に就任（椎名裁定）。この裁定は三木自身が「青天の霹靂」とコメントしたほど意外性をもって受け止められた（なお、三木には椎名裁定以前に椎名から事前に指名される旨が伝えられている）。
三木政権は政治浄化に着手し、公職選挙法の政治資金規正法の改正し、防衛費1%枠を閣議決定した。
ロッキード事件が起こると三木おろしの倒閣運動が起こる。しかしこの動きは「ロッキード隠し」としてマスコミや世論の反発に遭い挫折し、三木政権は延命する。世論を背景とした三木はロッキード事件の全容解明を表明。事件において存在したとされる金銭授受に関連して、外為法違反の疑いでの検察による田中逮捕を許可した（法務大臣が中曾根派の稲葉修であったことも疑惑追及に資することになった）。ロッキード事件での田中の逮捕を逆指揮権発動によるものとみなした田中派からは稲葉と共に激しい攻撃の対象となった。
この逮捕により、「もはやロッキード隠しとは言われない」として三木おろしが再燃、反主流6派による「挙党体制確立協議会」（挙党協）が結成される。田中派・大平派・福田派だけでなく、中間派とされた椎名派・水田派・船田派が賛同し、政権主流派に与するのは三木派の他は中曽根派だけとなる。三木は内閣改造を行ったが、ここで田中派からの入閣は科学技術庁長官1名だけであり、三木も田中との対決姿勢を改めて鮮明にする。
三木は党内分裂状態が修復できないまま解散権を行使できず、戦後唯一の任期満了による衆議院議員総選挙をむかえた。この選挙では挙党協は党本部とは別に選挙本部を設置し、自民党は分裂選挙の様相を示した。総選挙で自民党は追加公認を含めて過半数を維持するものの8議席減らす。三木内閣そのものというより、ロッキード事件への批判が自民党自体を直撃したと言えるが、それでも三木は責任を取って退陣した。
当選19回、議員在職51年。政界浄化・政治改革に執念を燃やしたその政治姿勢から、“ダーティ田中”こと田中前首相との対比で“クリーン三木”、“議会の子”の異名を支持者から奉られていた。しかし資金面での調達能力はなく、巨額の政治資金は三木派の大番頭・河本敏夫が一手に引き受けていた（なお、睦子夫人は森コンツェルンの令嬢であるが、同財閥自体が小さく三木への資金面での恩恵は薄かったとされている）。
いわゆる自由民主党の主流派とは明らかに違う政治信条を持ち、小派閥を率いて各所で波乱を巻き起こしつつ行動するその姿は、主流派からしばしば（欧州の火薬庫と呼ばれたバルカン半島になぞらえ）「バルカン政治家」と揶揄された。それでも、小派閥故の機動性を生かして臨機応変な立ち回りを見せ、またクリーンを標榜してマスコミ・世論を味方に取り込むなど、数の上での劣勢を巧みにカバーしたその政治的手腕は、田中角栄をして「政治のプロは、俺と三木だけだ」とまで言わしめた。
また、公職選挙法や政治資金規正法の改正案・自民党総裁選挙規定などの政治改革私案、日本型福祉社会の実現・日中や日ソ関係を含めたアジア太平洋圏構想という平和外交・自動車排ガス規制の推進など、世論の求めや時代を先取りした政策を次々に研究・提言してみせている。政治思想としては、概してリベラルであり、現行憲法の効用を指摘するなど、自主憲法制定が党是である自民党の中では左派的傾向が強かった。
1975年、現職総理として戦後初めて終戦記念日に靖國神社を参拝したが、その際記者団に「内閣総理大臣としてではなく、三木個人としての参拝である」と、「私的参拝」であると明言した。終戦記念日を選んだことは遺族会や保守派（特に幹事長派閥だった中曽根派）の支援を得ることが狙いとされているが、この参拝が、今日まで続く総理大臣の靖国参拝をめぐる諸問題の端緒となった。なお、昭和天皇の靖国御親拝は、三木の参拝から約3ヵ月後に行われたものが最後となり、現在まで行われていない（しかし、近年の研究では、昭和天皇の靖国御親拝取り止めは、三木発言の影響というよりも、その後のA級戦犯合祀への天皇自身の反発とみる説が有力である）。
徳島自動車道土成インターチェンジ北西に、銅像が立つ（画像参照）。
コックヮイ（国会）、シェンキョ（選挙）といった古風な発音を守っていた。
妻・睦子の父は森財閥総帥の森矗昶。睦子はこの父を始め、兄の森曉、弟の森清と森美秀、甥の森英介はいずれも衆議院議員という政治家一族の出身である。
2004年まで参議院議員であった高橋紀世子は三木の長女にあたる。同志の政治家に自身の内閣で官房長官を務めた井出一太郎、子飼いの政治家に河本敏夫の他に海部俊樹、鯨岡兵輔、坂本三十次、近藤鉄雄、志賀節らがいる。
