1946年4月、第22回衆議院議員総選挙に鹿児島全県区（大選挙区制）から日本協同党公認で立候補し、初当選する[5]。

1947年の総選挙では故郷の鹿児島3区から国民協同党公認で立候補するが、次点で落選。1949年の総選挙で当選。1952年、1953年と続けて落選。1955年の総選挙からは引退するまで連続して当選した。同選挙区では後に「ミスター税調」と呼ばれた山中貞則などと激しく争った。

自民党では同じ吉田学校出身の佐藤栄作の側近として活躍し1957年には橋本登美三郎・愛知揆一・保利茂・松野頼三らとともに周山会（佐藤派）を結成する。党内では労働政務次官、衆議院建設委員長、商工委員長などを歴任。その間田中角栄と商工委員長時代に面識を持ち、「趣味は田中角栄」と公言する程、惚れ込む。

1966年、第1次佐藤再改造内閣の科学技術庁長官兼北海道開発庁長官として初入閣。1967年の第2次佐藤内閣で再任。
田中派を結成

1972年、佐藤派内で田中擁立に向けて地歩を固め、田中派を結成する。念願の第1次田中内閣では内閣官房長官に就任、内閣の大番頭役として政権を支え、田中首相、大平正芳外相と共に訪中し、日中共同声明を発表する。第2次田中内閣で官房長官に留任。その後自民党幹事長に就任し、田中内閣を最後まで支えた。

1976年、ロッキード事件の渦中で「灰色高官」として二階堂の名も取りざたされたため、表舞台から遠ざかる。しかし自民党の田中支配が進む中で二階堂も復権を果たし、鈴木善幸内閣下の1980年に自民党総務会長、木曜クラブ（田中派）会長に、1981年の鈴木善幸改造内閣には再び党幹事長に就任した。1982年、中曽根康弘内閣で幹事長に留任するが、1983年の田中判決解散に伴う第37回衆議院議員総選挙で自民党が大敗した責任を取る形で幹事長を辞任した。このとき出された中曽根総裁の「いわゆる田中氏の政治的影響を一切排除する」という声明は後に中曽根が当初はもっとソフトに声明を出そうとしていたが二階堂の方から言い出したので驚いたと語っている（なお、これが形だけの声明であることは中曽根も田中も二階堂も承知の上であり、この後も田中の政治的影響は全く排除されていない）。

灰色高官といわれた二階堂であったが、金集め自体は下手であり、後には無頓着になった。金銭面は、田中や竹下登が面倒をみていた。田中派から竹下が派閥を割った時に二階堂派の人数が少なかったのはこれも影響している。

1984年、自民党副総裁に就任。中曽根再選をめぐり、これに反対する福田赳夫、シャム双生児といわれたほど仲の良かった鈴木善幸前総理ら党の最高顧問に加え、公明党、民社党も関与する「二階堂擁立構想」が持ち上がる。二階堂自身も、田中派内の総裁候補擁立の空気を背景に政権意欲を持つが田中の賛成を得られず断念した。このとき会談した田中に「幻の山崎首班」と冷やかされたうえになぜ相談しなかったのかといわれ頭に血が上って大激論になったと覚書「蘭は幽山にあり」にある。派閥全盛時代の当時では追い出されても仕方ない造反行為であったが不問に付されている。

二階堂擁立劇は結局田中の支持を受けることが出来ずに立ち消えになった。時を同じくして体調が優れない福永健司衆議院議長の退任問題が持ち上がると中曽根と金丸らから議長就任の話も出るが側近の小坂徳三郎、また田中の指示もあって拒否し（議長になれば総裁候補ではなくなり、また木曜クラブ会長も退任することになるため）、後任には坂田道太が就任した。竹下らの創政会結成から20日後に田中が脳梗塞で政治生命を絶たれると田中派内で台頭した竹下・金丸信ら創政会グループと派の主導権をめぐり対立。1986年、総選挙で大勝し任期が1年延びた中曽根から再度議長を打診されるが固辞すると無役となった。

1987年7月4日、竹下登らは木曜クラブを離脱し経世会を設立[6]。二階堂は江崎真澄、山下元利、小坂徳三郎、保岡興治、田中直紀らとともに残留した。田中派と称されてきた木曜クラブは、以降、二階堂グループと呼ばれる。田中派の正統な後継者であると自ら任じ、中曽根後継を決める同年10月31日の総裁選挙への出馬を表明したが、推薦人50名を得られず正式な立候補は断念した[7]。

1989年6月8日、政府・自民党首脳会議での閣僚・党役員の派閥離脱方針に沿った措置として、二階堂[8] と、北海道・沖縄開発庁長官として入閣した井上吉夫は二階堂グループを離脱した。後任の会長には江崎真澄が就任した[9]。

1990年2月の総選挙で田中が引退。二階堂グループも大幅に人数を減らしたため解散。同年春の叙勲で勲一等旭日大綬章受章。1991年には日本人で10人目の国連平和賞を受賞。同年8月22日にメダルと感謝状が授与された。

1996年の総選挙には出馬せず、政界を引退。

2000年2月3日、心不全のため東京都新宿区の病院で死去。90歳没。叙・従二位。勲一等旭日桐花大綬章へ昇叙した[10]。
エピソード

1970年代後半から、アントニオ猪木の新日本プロレスにコミッショナーとして擁立され、たびたびプロレス中継に立会人として登場した。当時は重鎮政治家がプロレスのコミッショナーを務める例は珍しくなかった。また、二階堂は井筒部屋の後援会長を務めた。

@media screen{.mw-parser-output .fix-domain{border-bottom:dashed 1px}}鹿屋体育大学を誘致したのは二階堂であるとされる。当時の文部大臣奥野誠亮が「あんな田舎に…」と難色を示したのに対し「そんなことを言っているから過疎や過密が問題になる。田舎だからこそ作るんだ」と一喝したといわれる[要出典]。ちなみに、奥野は二階堂が翼賛選挙に立候補した際に、薄田美朝（当時、鹿児島県知事、戦後、衆議院議員）、原文兵衛（当時、鹿児島県特高課長、のち参議院議長）とともに鹿児島県総務部振興課長として翼賛選挙を推進する側にいた。

その鹿屋体育大学設立にまつわる話を、後年文部大臣となった森喜朗が昭和天皇に奏上したところ、天皇が「うんうん、二階堂か。あれならやるなあ。」と漏らしたとされている[11]。

アメリカ留学中に覚えて以来の葉巻党として有名だった。もともと吸い口を噛み破っていたが、ある時新人議員で祖父の吉田茂譲りの葉巻党の麻生太郎に窘められ、その場で麻生からシガーカッターを贈られた。
二階堂家詳細は「二階堂氏#薩摩二階堂氏」を参照

二階堂家の血筋をたどると800年昔にさかのぼり、京都の下級貴族・藤原氏が出自である[12]。二階堂氏の祖・藤原行政は、鎌倉幕府の開設と同時に、おそらく建久年間の初め、1192年?1193年頃、将軍・源頼朝に招かれて、幕府に仕えることになった[12]。その時に与えられた屋敷が、鎌倉の二階堂にあったところから、地名に因んで、二階堂姓を名乗った[12][13]。