1900年（明治33年）に東京市吏員5名が案を提出するが、またしても不採用だった。その後1901年（明治34年）、辰野金吾により本多静六が推挙され[6][7]、石黒忠悳、福羽逸人、小沢圭次郎等とともに日比谷公園造園委員会が設置され、結局、造園委員でもありドイツ留学を終えたばかりの本多を中心として立案することとなった[8]。本多は留学経験を生かしてドイツ式庭園を目指した一方で、江戸城に連なっていた堀を埋め立てる際に一部を心字池として埋め残し、日本的な要素も残した。心字池ではかつての石垣の一部を今でも見ることができる。ついにこの案が採用となり、本郷高徳により図面が起こされ[9]、1902年（明治35年）4月に着工。翌年6月1日に仮開園を迎えた[10]。
開園後

早くも開園と同年に洋風喫茶店松本楼、和風喫茶店三橋亭（後のパークセンター）、結婚式場高柳亭（現・日比谷パレス）、洋風レストラン麒麟亭（現・レストランなんぶ）、植木屋などが出店し、戦後も営業する店舗の多くが出揃っている。日露戦争に勝利すると、献木が盛んとなり、樹木が充実した。

1905年（明治38年）8月、野外音楽堂が竣工（現在の野外小音楽堂に位置）[1]。1923年（大正12年）7月に野外大音楽堂が完成した[1]。

@media screen{.mw-parser-output .fix-domain{border-bottom:dashed 1px}}園内の花や樹木を盗まれることが多かったため、開園後2か月で深夜開放が禁止された。[要出典]

開園後には、日露戦争祝賀会や西園寺公望、山本五十六など政府・軍要人の国葬や大隈重信の国民葬の開催場所として政府などに積極的に活用された一方で、大正デモクラシーの中、東京市電賃上げ反対運動や普通選挙運動、シーメンス事件に対する第2次山本内閣弾劾国民大会など、民衆による社会運動の拠点ともなった。日露戦争の講和条約であるポーツマス条約に対する日比谷焼打事件など、暴動に発展する事件も多々起こった。

1908年7月11日『読売新聞』には「昨今夜の日比谷公園、堕落男女の野合場と化す。毎夜密行巡査十数人、醜行取締りに出動」とある。

同年日本統治下の台湾に初の近代的公園として日比谷公園を模した新公園（台北公園）が作られた[11]。
関東大震災

1923年（大正12年）の関東大震災では日比谷公園も被災し、小音楽堂が倒壊、松本楼が焼失した[10]。一方で、直前に建てられた大音楽堂は倒壊を免れた。

運動場には被災民が仮設住宅144軒に身を寄せ、被災者遺体の仮埋葬も行われた。仮設住宅は翌年に撤去された。
戦前・戦中

1940年（昭和15年）12月5日、西園寺公望の国葬が行われる[12]。

太平洋戦争下の1942年（昭和17年）、日比谷公園は軍用地となった。真鍮製の外柵は金属供出に出され、松本楼は海軍省将校宿舎として利用された。食糧難のため、花壇ではジャガイモが栽培された[10]。
戦後

戦後、日比谷第一生命ビルの近くで軍用地でもあった日比谷公園は、日本を占領した連合国軍最高司令官総司令部 (GHQ) の接収を受け「Doolittle Field（ドーリットル・フィールド）[13]」と名づけられ、松本楼は米軍宿舎として利用された。1951年（昭和26年）接収が解け、再整備が始まった。
2000年代以降

2003年（平成15年）には日比谷公園100周年記念事業が開催された[1]。その一環で2003年から2008年にかけてベンチの背もたれのプレートに寄付者のメッセージを刻んだ「思い出ベンチ」が設置された[14]。

2021年（令和3年）7月に東京都は「都立日比谷公園再生整備計画」を策定[14]。第2花壇周辺では段差や柵を取り払い、誰でも自由に入れる芝庭広場にすることになった[14]。再整備に伴い公園内に設置されていた「思い出ベンチ」202基（老朽化により工事前に撤去されていた1基を除く）は撤去されることになった[14]。
沿革史.mw-parser-output .ambox{border:1px solid #a2a9b1;border-left:10px solid #36c;background-color:#fbfbfb;box-sizing:border-box}.mw-parser-output .ambox+link+.ambox,.mw-parser-output .ambox+link+style+.ambox,.mw-parser-output .ambox+link+link+.ambox,.mw-parser-output .ambox+.mw-empty-elt+link+.ambox,.mw-parser-output .ambox+.mw-empty-elt+link+style+.ambox,.mw-parser-output .ambox+.mw-empty-elt+link+link+.ambox{margin-top:-1px}html body.mediawiki .mw-parser-output .ambox.mbox-small-left{margin:4px 1em 4px 0;overflow:hidden;width:238px;border-collapse:collapse;font-size:88%;line-height:1.25em}.mw-parser-output .ambox-speedy{border-left:10px solid #b32424;background-color:#fee7e6}.mw-parser-output .ambox-delete{border-left:10px solid #b32424}.mw-parser-output .ambox-content{border-left:10px solid #f28500}.mw-parser-output .ambox-style{border-left:10px solid #fc3}.mw-parser-output .ambox-move{border-left:10px solid #9932cc}.mw-parser-output .ambox-protection{border-left:10px solid #a2a9b1}.mw-parser-output .ambox .mbox-text{border:none;padding:0.25em 0.5em;width:100%;font-size:90%}.mw-parser-output .ambox .mbox-image{border:none;padding:2px 0 2px 0.5em;text-align:center}.mw-parser-output .ambox .mbox-imageright{border:none;padding:2px 0.5em 2px 0;text-align:center}.mw-parser-output .ambox .mbox-empty-cell{border:none;padding:0;width:1px}.mw-parser-output .ambox .mbox-image-div{width:52px}html.client-js body.skin-minerva .mw-parser-output .mbox-text-span{margin-left:23px!important}@media(min-width:720px){.mw-parser-output .ambox{margin:0 10%}}

この節の加筆が望まれています。


1950年（昭和25年）、東京都知事・安井誠一郎の要請により帝国ホテル内の植木屋芳梅園が日比谷公園に出店し、日比谷花壇となった。

1954年（昭和29年）11月 - 大音楽堂を復旧[1]。

1957年（昭和32年）10月 - 日比谷図書館を再建[1]。

1961年（昭和36年）9月 - 大広場に噴水とテラス付沈床芝生園が完成[1]。

1971年（昭和46年） - 沖縄返還運動により松本楼が全焼。1973年（昭和48年）に再建された。

1982年（昭和57年） - 児童園とプールが廃止されて健康運動広場となる。

1983年（昭和58年）6月 - 小音楽堂が建替えられる[1]。

2011年（平成23年）7月1日、東京都から千代田区へ移管された日比谷図書館が、「日比谷図書文化館」として開館した。

2018年（平成30年）

11月23日、ランニングの拠点と飲食店を併設した「スポーツステーション＆カフェ」が開館[15]。

12月26日、都は、2033年の開園130周年に向け、「グランドデザイン」を発表。設備の老朽化が進んだため学識経験者らによる検討会で活用策を議論。