ベルリンの壁が崩壊した後に、先行きが不安になった科学アカデミーを辞職、「民主主義の出発」の結党メンバーになる。同党では報道官を務めた。1990年に東ドイツで行われた最初にして最後の自由選挙でこの党はCDU（西ドイツのCDUとは別組織。但し、同名の両党は再統一後合流した）と政党連合を組んでいたため、東ドイツ最後のロタール・デメジエール政権で副報道官に就任した。ドイツ再統一直前に西ドイツCDU党大会に出席し、党首で西ドイツ首相のヘルムート・コールに初めて出会う。10月3日の統一後CDUに入党し、1990年12月2日の連邦議会選挙で故郷メクレンブルク＝フォアポンメルン州から出馬して初当選。

初当選議員ながら、第4次コール政権の女性・青少年問題相に抜擢され、1991年1月18日に就任。ブランデンブルク州の党支部代表を目指すが、党内基盤が全くなかったため敗北。しかしシュタージへの協力という過去が明るみに出たデメジエールの辞任を受け、後任のCDUの連邦代表代理に就任した。次いで1993年には、ついにメクレンブルク＝フォアポンメルン州の党支部代表に就任した。1994年10月の連邦議会選挙により成立した第5次コール政権では環境・自然保護・原発保安担当大臣に就任。前任者クラウス・テプファーの環境保護政策は経済優先のCDU党内や連立相手の自由民主党 (FDP) に受けが悪かったが、メルケルは就任3か月目にテプファー以来の事務次官を更迭してこれに応えた。なお東ドイツ時代の知人は彼女がその性向から同盟90/緑の党に参加すると思っていたので、CDUへの入党に驚いたという。ちなみに彼女の母は統一後は社会民主党 (SPD) の熱心な支持者になり、牧師である父もCDU支持者ではないという。

1998年の連邦議会選挙で歴史的な大敗を喫したコール政権が終幕を迎え、CDUは野党に転じる。コールを継いでCDU党首に就任したヴォルフガング・ショイブレの提案により、彼女は同党幹事長に就任。1999年11月に同党のコール政権時代のヤミ献金が発覚すると、メルケルはいち早く『フランクフルター・アルゲマイネ』紙に寄稿してコール元首相を批判[13]、彼から距離を取ることを党員に訴えた（その後、コールとは和解している）。2000年2月にヤミ献金問題によりショイブレCDU党首が辞任すると、4月の党大会で承認されCDU党首に就任した。
CDU党首時代CDU党首時代（2004年）

CDU党首とCDU/CSU連邦議会議員団長というショイブレのポストは党首がメルケルに、議員団長がフリードリヒ・メルツCDU財務担当にと別々に引き継がれたように、旧東独出身のプロテスタント、女性であり、しかも離婚歴のあるメルケルは、CDUでは「リベラル派」とみなされ、保守本流からは、懐疑の目で見られていた。

トップのヤミ献金疑惑にショックを受けたCDUの地方党員・一般党員が、保守本流からは外れるメルケルを党首に押し上げた。実際のところ、州首相の経験もなく、連邦議会議員団長でもなかったメルケルは連邦首相への通例のコースからは外れており、党内権力基盤も弱かった。「コールのお嬢さん」(Kohls Madchen) と呼ばれていたのがその証拠の一つで、内閣の旧東ドイツ出身者と、女性の割合を増やすための数合わせに過ぎないと、コール政権時代は見られていた。

しかしメルケルは、その後着々と権力基盤を確実にしていく。2000年の時点で、保守本流を代表し将来の首相候補と嘱望されていたのは、1999年にSPDの強かった「赤いヘッセン州」で、ハンス・アイヒェル州首相を破ったローラント・コッホであったが、コッホが率いるヘッセン州CDU支部自体が、2000年にヤミ献金問題の直撃を受け、全国レベルで保守陣営を代表できなくなった。

2002年の総選挙でメルケルは、2大政党初の女性党首、初の東独出身候補として選挙を戦った。この選挙は野党連合の惜敗に終わったものの、メルケルは選挙後にメルツCDU/CSU連邦議会議員団長から、その地位を奪い取った。

国政でのSPDと同盟90/緑の党の連立与党の不人気にも助けられて、州政レベルでCDUはその後確実に政権を奪っていき、2004年のホルスト・ケーラー連邦大統領の擁立にも成功する。メルケルは以前のように一般党員、地方党員だけではなく、旧西独出身の保守本流の政治家達も一目置かざるを得ないやり手の政治家に成長した。

さらに2005年に入り、シュレースヴィヒ＝ホルシュタイン州とノルトライン＝ヴェストファーレン州での州議会選挙のCDU勝利により、シュレーダー首相の賭けで連邦議会選挙が前倒しで実施されることになった。メルケルは、この頃にはかつてのあだ名「コール（石炭 (Kohle) と発音が似ている）のお嬢さん」と引っかけて「鉄のお嬢さん」(Eisernes Madchen) と呼ばれるようになった。

これには「鉄の女」と呼ばれた、マーガレット・サッチャー元イギリス首相に比しての意味合いもある。2人には、科学者出身・保守・女性政治家という複数の共通項があるためである。また Eisernes Madchen のもう一つの意味は、中世の拷問用具である「鉄の処女」であり、メルケルが選挙戦で掲げていた、ラディカルなネオリベラル改革を左派陣営が揶揄して、こう呼んだ。
首相就任「第1次メルケル内閣」も参照首相1期目（2007年）

2005年9月18日に行われた総選挙では、メルケル率いるCDU/CSU連合はゲアハルト・シュレーダー首相率いるSPD・緑の党連合に僅差で勝利した。しかし改選前より議席を22も減らしたために、FDPと合わせても過半数には届かず、緑の党との連立協議も不調に終わったことから、SPDとの大連立以外に現実的な選択肢がなくなった。