しかしながら、ロックフェラーの最大の目標はアメリカ合衆国大統領に就任することであった。この目標のために彼は1960年、1964年、1968年の三度にわたって共和党の大統領候補指名を模索した。だが、1960年には現職副大統領にして最有力候補のリチャード・ニクソンが指名を獲得した。
1964年には最有力候補と看做されるが、彼自身の離婚問題もあってバリー・ゴールドウォーター上院議員との激しい指名争いの末、指名獲得に失敗した。1964年の指名争いは、西部を基盤とする保守派のゴールドウォーターが、東部を基盤とする代表である穏健派のロックフェラーを破ったことで、共和党内の主導権が、東部基盤の穏健派から西部（後に南部も加わる）基盤の保守派へ移る契機となったと一般に考えられている。
1968年には一度不出馬及びジョージ・ロムニーミシガン州知事の支持を表明したロックフェラーだが、キング牧師の暗殺を契機に出馬表明をした。だが、再びニクソンの前に敗れた。1968年の大統領選挙で、ヴェトナム反戦、即時撤退を訴える多くの候補者が脚光を浴びた。ユージーン・マッカーシー、ロバート・ケネディ両上院議員はその代表格である。しかし、反共主義者でもあったロックフェラーは一切戦争への反対を訴えず、北ヴェトナム、南ベトナム解放民族戦線（ベトコン）との交渉のみを訴えた。
副大統領職「1974年アメリカ合衆国副大統領承認」も参照1976年の共和党全国大会において（左からボブ・ドール、ナンシー・レーガン、ロナルド・レーガン、ジェラルド・フォード、ロックフェラー、スーザン・フォード、ベティ・フォード）。
1974年にリチャード・ニクソン大統領が辞任し、ジェラルド・フォード副大統領が大統領に昇格した。同時にロックフェラーは、フォード大統領により副大統領に指名された。彼は12月10日に上院で、19日に下院でそれぞれ承認された。これによりロックフェラーは、合衆国憲法修正第25条により副大統領に就任した2人目の人物となった。
ニューディール期以降、大統領の権限の拡大が続く中、特に1960年代には大統領やその側近への権限の集中が進んだ。ニクソン政権下ではこうした傾向が最高潮に達したとされ、ウォーターゲート事件の影響もあって帝王的大統領制（Imperial Presidency）であると非難を浴びた。フォード大統領がニューヨーク州知事を4期務めた大物、ロックフェラーを副大統領に指名したことは、副大統領への権限の移譲を視野に入れてのことだと当時は言われた。特にロックフェラーは、国内政策に関して大きな役割を果たすものと考えられていた。だが、ドナルド・ラムズフェルド大統領首席補佐官（1975年から国防長官）をはじめとした大統領の側近グループは、ロックフェラーの権限の強大化を恐れ、また路線対立もあって副大統領が政策に影響を与えることを抑制した。この結果、ロックフェラーは予想された大きな役割を果たすことができなかった。
1976年の大統領予備選で、フォード大統領は保守派のロナルド・レーガン前カリフォルニア州知事の厳しい挑戦を受け、かろうじて指名を獲得した。ロックフェラーは予備選でレーガンを支持する保守派からリベラルであると看做され、批判を受けていたこともあって、1975年11月に翌年の大統領選挙で副大統領候補としての指名を求めないことを明言した。代わりにロバート・J・ドール上院議員が副大統領候補に指名された。フォード大統領がこの年の大統領選で敗れると、ロックフェラーも1977年に副大統領職を去った。 1979年1月26日、心臓発作で急死した。70歳没。後にこれが愛人宅における腹上死だったことが公になり大騒動になった。ロックフェラーの心臓発作に動転した愛人が、浮気発覚を恐れて友人宅などに電話をするなどして時間を浪費、救急通報が約1時間も遅れたことが命取りとなった。 遺体はニューヨーク州ハーツデール 彼は自らの立場を「人間に関する問題では、私はリベラルだ。一方経済と財政政策に関する問題では、私は保守主義者だ。」としている。公民権運動に同情的で、人種差別の撤廃を積極的に支持した。他の大半の共和党員と同じく、南部諸州における人種隔離政策に終止符を打ち、人種間の法的な平等を保証する1964年公民権法を支持した。ロックフェラーは一般に共和党内の穏健派の代表格と考えられている。すなわち、社会問題でリベラルな姿勢をとった。彼のように社会政策に関してはリベラルで、他の問題ではおおむね他の党員と見解を一にする共和党員を「ロックフェラー・リパブリカン」と呼んだ。 しかしロックフェラーは他の分野では他の共和党員と同じ考えを持った。すなわち、政府の市場経済への必要以上の介入に反対し、低い税率、簡素で公平な税制、財政均衡、「小さな政府」を少なくとも表面上は支持した。また「ロックフェラー麻薬法」、アッティカ刑務所暴動に見られるように「法と秩序」の問題では他の共和党員同様強硬で毅然としたスタンスを取った。
死
共和党穏健派のリーダー
