明治政府の地方行政としては、徳川家を駿府藩に移封し、京都・長崎・函館を政府直轄の「府」とした以外は、原則として以前の藩体制が維持されていた。しかし、富国強兵を目的とする近代国家建設を推進するためには、中央集権化による政府の地方支配強化は是非とも必要なことであった。
まず、明治2年の版籍奉還で旧藩主が自発的に版（土地）・籍（人民）を天皇に返上し、改めて知藩事に任命することで、藩地と領主の分離が図られ、重要地や旧幕府直轄地に置かれた府・県とともに「府藩県体制」となる。しかし、中央集権化を進め、改革を全国的に網羅する必要があることから、藩の存在は邪魔となり、また藩側でも財政の逼迫が続いたことから自発的に廃藩を申し出る藩が相次いだ。1871年8月29日（旧7月14日）に、薩摩・長州藩出身の指導者により廃藩置県が実施され、府県制度が設置され（当初は3府302県、直後に整理され3府72県）、中央政府から知事を派遣する制度が実施された。これにおいては、令制国の地名を用いなかったために、都市名が府県名となった所も少なくない。薩摩藩の島津久光が不満を述べた以外は目立った反撥はなく（すでに中央軍制が整い、個別の藩が対抗しにくくなっていたこと、藩財政が危機的状況に陥り、知藩事の手に負えなくなったこと、旧藩主が華族として身分・財産が保証されること、などが理由とされる）、国家の支配体制がこのように電撃的、かつ画期的に改変されたのは明治維新における奇跡とも言える。
なお、旧幕府時代、名目上は独立国でありながら実質上薩摩藩の支配下にあった琉球王国に関しては、廃藩置県の際に「琉球藩」が設置されて日本国家内に取り込まれることとなり、1879年（明治12年）に「沖縄県」として正式に県に編入された（この間の経緯は一般に「琉球処分」と称される。旧琉球国王の尚氏も旧藩主と同様、華族となった）。（→沖縄県の歴史）
廃藩置県と太政官制の改革を経て中央集権体制が整ったことで、ようやく旧幕府時代の制度を改革する準備が整った。ほぼ同時に宮中の改革も行われ、旧来の宮中職や女官は廃され、士族を中心とした侍従らが明治天皇を武断的な改革君主にふさわしい天皇に養育することとなった。幕末期には病弱であった明治天皇も、士族による養育のためか健康も回復し、西洋的立憲君主としての心得も学び、「明治国家」の元首としてふさわしい存在になっていく。特に憲法制定過程における枢密院審議においては、そのすべてに臨御し、また国会開設前後の立憲政治未成熟期に首相が頻繁に辞任・交代した際も、政局の調停者として重要な役割を担った。
身分制度については、江戸幕府下の「士農工商」の別を廃止し、旧武士階級を士族、それ以外を平民とし、「四民平等」を謳う一方、旧公家・大名や一部僧侶などを新たに「華族」として特権的階級とすると同時に、宮内省の支配の下に置くことになった。
また、維新政府は西洋の諸制度を研究するため岩倉具視を正使、大久保利通・木戸孝允・伊藤博文らを副使とする使節団を欧米へ派遣するが、「留守政府」とよばれた日本残留組の西郷隆盛・井上馨・大隈重信・板垣退助・江藤新平・大木喬任らの手によって、次々と改革は進んでいった。
主な改革としては、学制改革、地租改正、徴兵令、太陽暦の採用、司法制度の整備、断髪令、などがある。ただし、これらの改革は急激に行われたため矛盾も少なくなく、士族や農民の不満を招いたため、後の征韓論につながったとも言われる。欧米使節から帰国した岩倉や大久保が征韓論を退け、さらに大久保の下に内務省が設立されたことで諸改革の整理が行われることになる。
また、これと同時期に民間でも行われた文明開化の動き、肉食の普及や鉄道の開通などとも相まって、新時代「明治」の雰囲気が醸成されていった。
経済産業分野では、富国強兵・殖産興業のスローガンの下、富岡製糸場を初めとする官営工場が作られるなど、政府主導の産業育成が始まり、西洋式工業技術が導入された。また金融制度でも旧幕府時代の貨幣制度を改めて、通貨単位として「円」を導入（1871年。新貨条例を参照）、また国立銀行条例による国立銀行（ナショナルバンク）を経て、通貨発行権を独占する中央銀行としての日本銀行設立（1882年）など、資本主義的金融制度の整備も行われた。また流通分野では、郵便制度・電信網の整備、鉄道および船舶運輸（民間の郵便汽船三菱会社と国策会社の共同運輸会社の競合を経て日本郵船会社）などの整備が行われた。これらの資本活動には、職を失った代わりに秩禄を得た華族の資産による投資活動も背景にあった。
このような改革には積極的に西洋文明の先進制度が取り入れられ、その過程で、「お雇い外国人」と呼ばれる外国人が、技術指導、教育分野、官制・軍制整備など様々な分野で雇用され、近代国家建設を助けた。
宗教的には、祭政一致の古代に復す改革であったから、1867年（慶応3年）旧暦正月17日に制定された職制には神祇を七科の筆頭に置き、3月 (旧暦)には神仏分離令が布かれた。神仏分離令により、当時の復古的機運は仏教でさえも外来の宗教という点で廃仏毀釈として弾圧される時代であった。ただし、神仏分離令の主旨は仏教の排斥ではなく、江戸時代までの神仏習合による仏教と神道の混交から両者を分離することであった。また、キリスト教（耶蘇教）は、新政府によって引き続き厳禁された。キリスト教の指導者の総数140人は、萩（66人）、津和野（28人）、福山（20人）に分けて強制的に移住させた。
その後、明治2年（1869年）12月7日には、信者約3,000人を、金沢以下10藩に分散移住させた。しかし、明治4年（1871年）旧11月、岩倉具視特命全権大使一行が欧米各国を歴訪した折、耶蘇教禁止令が各国の非難を浴びて、条約改正の交渉上障碍になるとの報告により、明治5年（1872年）に大蔵大輔の職にあった井上馨は、長崎府庁在任時に関わった事から、明治5年正月に教徒赦免の建議をした。