正規のかたちで太政大臣が任命された初例は、斉衡4年（857年）2月の藤原良房である。ときの文徳天皇は、おりから病気がちであり、しばしば政務を執ることができないほど体調が悪化することがあった。一方で、皇太子惟仁親王はわずか8歳の幼少であった。天皇としては、病身の自分を補佐するとともに、自分に万一のことがあった場合には前代未聞の幼帝として即位することになる惟仁の後見人として、生母藤原順子の兄であり、正室藤原明子の父であり、皇太子の外祖父であり、すでに右大臣として廟堂に重きをなしていた良房は、もっとも頼りがいのあるうってつけの人材であったと言える。実質的には、良房の太政大臣任命は、いわゆる「人臣摂政制」の発足としての意味を持つものである。はたして天皇は翌天安2年（858年）2月に死に、惟仁が9歳で践祚した（清和天皇）。『公卿補任』や『職原鈔』などは、良房が清和天皇の践祚と同時に摂政に任じられたものとして記述している。良房は、順子や明子と協調しながら、事実上の摂政としての役割をはたしてゆくことになる。

清和天皇の良房に対する信任は篤く、成長しても良房に対する尊重は変わることがなかった。貞観8年（866年）閏3月に起きた応天門の変による政情不安に際しては、同年8月に、非常事態を収拾するための大権として、あらためて良房に天下の政を摂行すべき由の勅を発している。形式的には、この時点が史上初の人臣摂政の任命とされている。さらに貞観13年（871年）4月には、良房に三宮に准じて年官年爵を与えている（准三宮の初例）。

良房が貞観14年（872年）9月に死ぬと、その立場は良房の猶子の右大臣基経に受け継がれた。清和天皇は、貞観18年（876年）11月に皇太子貞明親王（陽成天皇）に譲位するにあたり、基経に良房と同じ摂政の任を与えている。さらに、元慶4年（880年）12月には、その死に臨んで遺詔を以て「右大臣の官職は摂政の任にふさわしくない」という理由で基経を太政大臣に昇進させている。これ以降、摂政の職務と太政大臣の官職は一体のものとして観念されるようになってゆく。

元慶8年（884年）2月に陽成天皇が廃位され、光孝天皇が践祚すると、基経は、陽成天皇の退位により摂政の職務は解除されたものと考えた。一方、光孝は従前どおり基経の補佐を受けることを望んだ。しかし、良房・基経の摂政がいずれも老練な重臣が若年の天皇を補佐するものであったのに対して、光孝天皇は基経よりも年長であった。そこで、従前のものとは異なる論理で摂政の職務を合理化する必要が生じた。ここで着目されたのは太政大臣の職務権限である。太政大臣であること自体に事実上の摂政の意味を求めようとしたのである。基経も、令では抽象的な規定にとどまっている太政大臣の職務の具体化・明確化を望んだ。

元慶8年5月、文章博士菅原道真ら8名の有識者に「太政大臣の職掌の有無」が諮問された。8名の答申はさまざまで意見の一致を見なかったが、もっとも明確に結論をくだしたのは道真の答申である。それは、太政大臣は「分掌の職にあらずといえども、なお太政官の職事たり」というものであった。実は『令義解』にも「分掌の職にあらず、その分職なきがため、ゆえに掌を称さず」と明記されている。令に太政大臣の職務権限に関する規定がないのは、地位のみが高くて実権のない官職だからではなく太政官が管轄するすべての職務について権限を有するために、あえて個別に例示する必要がないからだというのである。

これを踏まえ、光孝天皇は同年6月に基経に対して、太政大臣は「内外の政統べざるなし」との詔を発し、太政大臣が実権のある官職であることを保証した。しかし、同じ詔で「まさに奏すべきのこと、まさに下すべきのこと、必ずはじめに諮稟せよ、朕まさに垂拱して成るを仰がむとす」とも述べて、基経には太政大臣とは別の特殊な権限があることも認めている。この後半の部分は、のちに関白を任命する際の詔にも決まり文句として継承されることになる。これは、摂政・関白と太政大臣が分離してゆく最初の契機ともなった。

仁和3年（887年）8月に光孝天皇が死に、宇多天皇が践祚した際にも、基経の特殊な権限は再確認された。同年11月、宇多天皇は「万機の巨細、百官己に惣べ、みな太政大臣に関わり白し、しかるのちに奏下すること一に旧事のごとくせよ」と詔している。これが「関白」ということばの初例である。
太政大臣と摂関の分離

基経が寛平3年（891年）1月に死んだあと、基経の子孫たちのなかから、忠平、実頼、伊尹、兼通、頼忠が相次いで太政大臣に就任している。いずれも、まず、基経によって確立された、摂政または関白の地位に就いてから、その地位にふさわしい官職として太政大臣に任命されるやり方をとっている。この間約100年、摂関と太政大臣はつねに一体のものとしてあった。

これが変化するのは、寛和2年（986年）6月の花山天皇の突然の退位のときのことである。代わって践祚した一条天皇のもとで、天皇と外戚関係のない関白太政大臣頼忠は、一条天皇の外祖父の右大臣藤原兼家に関白を譲ることになった。一条天皇はまだ6歳であったから、兼家は関白を改めて摂政となった。これまでの慣例からすれば、兼家が太政大臣となるのが自然な流れであるが、頼忠が引き続き太政大臣に在任しており、なんら罪があるわけでもない頼忠から太政大臣の官職を奪うことは困難であった（関白は、もともと天皇の交代とともに自動的に退任し、改めて新天皇から指名されるものであり、頼忠に罪があって解任されたわけではない）。そこで兼家は、同年7月、右大臣を辞任した。太政大臣以下の太政官の既存の官職から超越して、ただ摂政という立場のみに基づいて権力をふるうことを選んだのである。兼家は准三宮となり、さらに、その後摂関の特権のひとつとして定着することになる「一座の宣旨」を与えられて、三公の上に列することとされた。このとき、摂関と太政大臣は決定的に分離した。太政大臣の実権は完全に摂関に吸収され、太政大臣は単なる名誉職へと変化することになる。

兼家は頼忠の死後、短期間太政大臣を務めたが、父兼家の跡を継いで摂政となった藤原道隆は自らは太政大臣にはならず、かえって叔父の為光を推薦して太政大臣に据えた。正暦2年（991年）9月、基経以来、摂関を経ずに太政大臣になった最初の例である。道隆はついに太政大臣になることがなかった。次の関白藤原道兼も同様である。ついで、藤原道長の短期間の在任をはさんで、治安元年（1021年）7月に道長の叔父公季がやはり摂関を経ずに太政大臣となった。太政大臣は摂関家庶流の長老を処遇するための名誉職として定着してゆく。

また、摂関の職が道長とその子息頼通の子孫（御堂流）に定着し、ときの天皇との外戚関係に左右されずに世襲されるようになると、摂関家に代わって皇后を輩出した家系から、かつての良房や基経のように、外戚関係を足がかりにして太政大臣に任じられる者も現れる。その最初の例は、保安3年（1122年）12月に太政大臣となった源雅実である。雅実は、白河天皇の皇后藤原賢子（藤原師実の養女）の弟であった。これ以降、これまでどおり摂関あるいはその経験者が太政大臣となる例と並行して、雅実が属する村上源氏のほか、公季の子孫である閑院流、やはり摂関家の庶流である花山院家・中御門流・大炊御門家へと次第に太政大臣就任者は拡大してゆく。「摂関にはなれないが太政大臣にはなれる家格」としての清華家が成立してくることになる。逆に、摂関家・清華家出身でない者が太政大臣に任命されることは、その家が清華家の家格へと上昇したことを意味した。平清盛と足利義満の例がこのケースである。

太政大臣が名誉職であることを前提に、太政大臣は「その職を務めて権限を行使すること」よりも「その職に任命されること自体に意味があるもの」となってゆく。「太政大臣」と「前太政大臣」とは、その意味においてほとんど同じものとなったのである。このため、太政大臣の在任期間は1年前後の短期間であることが多い。特に、清華家出身者が太政大臣となる場合、それはしばしば引退の花道を意味した。