ジェラルド・フォード政権下で1974年から1977年まで大統領経済諮問委員会の議長を務めた。1980年代にはアルコア社やABCの取締役に就いていた。

当時を知る著名なファンドマネージャーであるマイケル・スタインハート（英語版）は自叙伝の中で、「彼から得る情報は普通すぎて、彼が将来、世界金融を支配するなど夢にも思っていなかった。」と語っている。その一方で、カリフォルニア州の貯蓄貸付組合経営者だったチャールズ・キーティング（英語版）の依頼で、キーティングの投資活動の拡大を求める上申書を州当局に提出したこともある[9]。

グリーンスパンは二度結婚している。一度目は1952年で、美術史を研究していたジョアン・ミッチェルと結婚したが、翌年に離婚した[10]。二度目は1996年で、NBCテレビのジャーナリストのアンドレア・ミッチェル（英語版）と結婚している。12年生活を共にしたミッチェルへ結婚のプロポーズをする際に、グリーンスパンの言葉が難解であったためプロポーズと気づかず、グリーンスパンは後になって明確な言葉で再度プロポーズした。ミッチェルの「3回目のプロポーズではじめて意味が分かった」と言う冗談に対して、グリーンスパンは「実際には5回目のプロポーズでようやく分かってもらえたのだ」と自伝に書いている[11]。
連邦準備制度理事会議長

1987年8月11日、グリーンスパンはロナルド・レーガン大統領の指名で連邦準備制度理事及び議長になることが上院に承認された。就任して2ヶ月後に彼は最初の危機、ブラックマンデーに直面した。1日でダウ工業株平均が約20%下落した翌朝、FRBは流動性を提供する準備ができているという短い声明を発表し、株式相場は約4%反発した。短い声明は、市場の崩壊を防ぐために効果を発揮したとされ、ウォール・ストリート・ジャーナルはブラックマンデーの5週間後に新しい議長は試験に合格したと評価、アラン・ブラインダーはここで見せたグリーンスパンの手腕を「マネタリー・ケインジアン」と評して賞賛した。

1988年の大統領選挙の前には景気を優先させるために政府は利下げの圧力をかけたが、FRBの独立性を守りインフレ対策として利上げを行った。選挙は共和党が勝利し、ブッシュ大統領が就任した。1989年には金利は10%近くまで達したが、景気が軟化したため徐々に利下げしていった。1990年8月にイラクがクウェートに侵攻し、景気の指標が低下するとさらに利下げを行った。ウォール・ストリート・ジャーナルはFRBの他の理事たちの一部にグリーンスパンは利下げを急ぎすぎているという不満があると伝えた。グリーンスパンの任期は1991年の8月に切れるが、大統領がぎりぎりまで再任を決めなかった。そのため政府からFRBに対する暗黙の圧力を疑われ、グリーンスパンの再任が決まった際にウォール・ストリート・ジャーナルはFRBの独立性について社説で疑問を投げかけた。その後、景気が急速に悪化したため、12月に1%の利下げを行い金利は4%になった。

1992年の大統領選挙では民主党が勝利し、ビル・クリントンが大統領に就任した。景気回復のためには財政赤字を削減し、長期金利を下げることが必要だというグリーンスパンの意見が容れられ1400億ドルの支出削減が政府の経済政策として発表されると長期金利は低下した。1994年に景気が拡大を始めると、FRB内部では0.5%の利上げが検討されたが、グリーンスパンは5年ぶりの利上げであることから市場にショックを与えないために0.25%の利上げを主張し、理事会を説得して指導力を発揮した。1995年は金利を5.5%前後に置き、失業率・インフレ率が低く抑えられ1.5%の経済成長と好調な株式市場という理想的な状態になった。

1996年にグリーンスパンはクリントン大統領から3期目のFRB議長として再任された。大統領選挙でクリントン大統領が再選を果たした後の12月に株式市場が高騰し、1年で26%上昇していたため、日本のバブル崩壊から教訓を得ていた財務省やFRBは危惧を抱いていた。グリーンスパンはスピーチで「根拠無き熱狂」という言葉を使用して株式市場に疑問を提示した[12]。1999年5月の上院銀行委員会では、「金（ゴールド）の、売却はいたしません。ゴールドは究極の通貨だからです」と述べている[13]。2000年にはクリントン大統領に4期目の再任の指名を受けた。