明治2年（1869年）1月10日、再び参与に任じられ、1月12日からは会計官御用掛に任ぜられた[29]。これは当時贋金問題が外交懸案の一つとなっていたためであり、大隈は財政や会計に知識はなかったが、パークスと対等に交渉できるものは大隈の他にはなかった[30]。2月には旧旗本三枝七四郎の娘、三枝綾子と結婚した[31]。美登との離婚は明治4年（1874年）に成立している[32]。

3月30日には会計官副知事を兼務し、高輪談判の処理や新貨条例の制定、版籍奉還への実務にも携わった。4月17日には外国官副知事を免ぜられたが、それ以降もパークスとの交渉には大隈があたっている[33]。7月8日の二官六省制度の設立以降は大蔵大輔となった。このころから木戸孝允に重用され、木戸派の事実上のナンバー2と見られるようになった[34]。またこのころから「八太郎」ではなく「重信」の名が使用されるようになる[35]。7月22日には民部大輔に転じ、8月11日の大蔵・民部両省の合併に基づき双方の大輔を兼ねた[35]。このころ大隈邸には伊藤博文や井上馨、前島密や渋沢栄一といった若手官僚が集まり、寝起きするようになった。このため大隈邸は「築地梁山泊」と称された[36]。強大な権限を持つ大蔵省の実力者として、地租改正などの改革にあたるとともに、殖産興業政策を推進した。官営の模範製糸場、富岡製糸場の設立、鉄道・電信の建設などに尽くした。しかしこれは急進的な改革を嫌う副島種臣や佐々木高行・広沢真臣といった保守派や、民力休養を考える大久保利通らの嫌うところとなった。
日本初の鉄道敷設計画

大隈や伊藤が鉄道計画を立てたのは1869年から1870年ごろのことと考えられる。井上馨や渋沢栄一に相談された大隈は「賛成せざりしにあらざれども、時の情勢に危ぶところあり」が「斥けかかる反動の気焔を挫かんには、かかる大事業を企成して天下の耳目を新たにするに如くはなし」と答えている[37]。

明治2年11月5日（1869年12月7日）、右大臣三条実美の東京邸宅において岩倉具視、沢宣嘉、大隈重信、それに伊藤博文がパークスと非公式に会談しているが、大隈と伊藤が事前にパークスと協議した脚本どおりに議事は進行。「折から東北・九州は凶作に見舞われ、北陸・近鉄は反対に豊作と聞く。鉄道があれば豊作地の米を凶作地に短時間で大量に輸送することが可能になり、以降の日本は凶作への不安から解放される」というパークスの主張に三条・岩倉ともに手を打って賛同し、明治2年11月10日（1869年12月12日）には鉄道敷設が正式に廟議決定された。その内容は「幹線として東西両京（東京⇔京都）を結び、支線として東京⇔横浜線ならびに琵琶湖⇔敦賀港線を敷設するが、その第一着手線としたのは、ときの政治拠点と外交拠点を直結するという意味以外に、爾後の鉄道拡張に必要な資材を外国から輸入する港湾の確保という意味もあったようである[38]。12月には廟議で東京と関西を結ぶ幹線と、枝線として東京-横浜間の計画が決定し、手始めに東京-横浜間が建設されることとなった。

この際に決まった東京-関西のルートは中山道沿いを通るもので、山間部の開発に繋がることと、海に近い東海道では軍艦からの攻撃を受けやすいので避けたいという陸軍の意向も働いたという[39]。ただ大隈は『大隈重信自叙伝』にて「その計画は、鉄道敷設の起点を東京とし、横浜より折れて東海道を過ぎり、京都・大阪を経て神戸に達するを幹線と為し、京都より分かれて敦賀に至る支線を敷き、この幹線と支線とを以て第一着手の敷設線路と為し、これより漸次してついに全国に及ぼさんと図りしなり」と述べている[37]。結局、中山道ルートは山間部の開発があまりにも困難と判断されたようで、前述の1869年12月廟議の計画は東海道ルートを通るよう変更された。

資金は外債募集に頼ることとなった。そのため「我が神洲の土地を典じて外債を募集する」という陸軍・兵部大輔の前原一誠を筆頭として反対運動が発生し、鉄道を建てる試験のための電信線を傷つけ電線を切断するなどの行為があったようである。因みに兵部の西郷隆盛の反対があり、最初の京浜鉄道は陸路を使う事ができず海を埋め立てて通したとも言われれる。また枢密院議長だった黒田清隆も当初は大反対だったものの、1871年1月から5月にかけてアメリカ合衆国やヨーロッパ諸国を旅行して鉄道の重要性を体感し、賛成に転じたと大隈は述べている[37]。

明治2年11月10日（1869年12月12日）に鉄道敷設の正式決定した2日後には大隈重信と伊藤博文はレイと仮契約を交わした。レイ借款が100万ポンドの借款で、30万ポンドは鉄道敷設に使い、残りは外債償却に使用するものであった[38]。また大隈重信が外国では鉄道の軌間基準がどうなってるかレイに訪ね、それに対し日本のような川や山が多く平地が少ないところでは、南アフリカなどに敷設されている3フィート6インチ（1067mm：ケープゲージ）が適当だと勧められたため、これを導入している。ただしこれはレイが同じケープゲージを採用していたインドの中古資材を購入して、その利ざやを稼ぐための意図があっての回答であり、欧米の通常軌道より狭いものであった。このため大隈は後年、一生一代の不覚であったと悔やむこととなった。ただ1870年5月20日にイギリスから『タイムズ』が大隈らのもとに届き、そこに4月23日にレイがロンドンにおいて公債公募による詐欺を行っていたとする記事が掲載されていたため、レイ借款を即時解除するという騒動に発展した[40]。

1871年7月半ば、横浜港にイギリスから届いた機関車と客車が陸揚げされた（基本的にこの京浜鉄道は外国からの中古品や流れものによって構成されていたようだ[40]）。伊藤と岩倉は11月12日より岩倉使節団として欧州に出発し日本を不在にしたため、日本初の鉄道開業は留守を司る大隈のもとで行われることになった。1872年6月12日（明治5年5月7日）に品川-横浜間で仮営業を開始し、同年10月14日（明治5年9月12日）に開業している。　
明治4年以降

明治4年6月25日、大久保主導の制度改革で参議と少輔以上が免官となり、新参議となった木戸と西郷隆盛によって新たな人事が行われることになった。大隈はこの日参議と大蔵大輔を免ぜられ、6月29日に大蔵大輔に再任された。しかし7月14日には参議に任ぜられ、大蔵大輔は免ぜられた[41]。11月12日に岩倉使節団が出国すると、大隈は留守政府において三条・西郷らの信任を得て、勢力を拡大し、大蔵大輔となっていた井上馨と対立するようになる[42]。1873年（明治6年）5月に井上が辞職すると、大蔵省事務総裁を兼ねて大蔵省の実権を手にした。5月26日には大蔵卿の大久保が帰国したが、その後も実権を握り続けた[43]。

一方でウィーン万国博覧会の参加要請を日本政府が正式に受け、博覧会事務局を設置。大隈が総裁、佐野常民が副総裁を務め、明治になって政府が初めて参加した万国博覧会となり、近代博物館の源流となった。大隈は会場に出席するため渡欧しようとしたが、政府内の同意が得られず出国しなかった[44]。

明治六年政変では、当初征韓論に反対の態度を示さなかったが、10月13日以降反征韓派としての活動を始めた[45]。征韓派は失脚し、佐賀藩の先輩であった江藤新平・副島種臣と袂を分かった。政変後の10月25日には参議兼大蔵卿になった[46]。また大久保利通と連名で財政についての意見書を太政官に提出している。
大久保政権下の活動

明治7年（1876年）1月26日には三条より、大久保とともに台湾問題の担当を命ぜられ、積極的に出兵方針を推し進めることになる[47]。4月4日には台湾蕃地事務局長官となり、出兵のための船を閣議に図らず大蔵卿の職権で独断で確保した[48]。大隈は出兵を命ぜられた西郷従道とともに長崎に向かったが、その間にイギリスとアメリカから抗議があったため、出兵を一時見合わせる方針となった。ところが西郷は独断で出兵を行い、政府も追認せざるを得なくなった。この間、大隈が西郷の出兵を止めようとしたという記録は残っていない[49]。大隈は出兵後も駐兵を続けるべきと主張していたが、大久保らが早期撤兵の方針を取ると、それに従った[50]。