ヨーロッパ人が入植する前は、この地にはクィニピアック族（Quinnipiack）のネイティブ・アメリカンが住んでいた。クィニピアック族は湾の奥に村をつくり、沿岸では魚を釣り、内陸ではトウモロコシを栽培していた。1614年、この地にオランダ人がやってきて、地元のクィニピアック族とビーバーの毛皮の取引を始めた。しかし取引は安定せず、オランダ人はこの地に入植するには至らなかった。市中心部の公園、ニューヘイブン・グリーンの端に立っている看板。ニューヘイブンの歴史が記されている。「ニューヘイブン植民地」も参照

1638年4月、イングランド人牧師ジョン・ダベンポート（John Davenport）とロンドンの商人セオフィラス・イートン（Theophilus Eaton）に率いられ、500人の清教徒たちがマサチューセッツ湾植民地を発ち、船でこの地にたどり着いた。湾が天然の良港であったため、彼らはこの地にマサチューセッツを超える宗教コミュニティを築くことを望み、都市計画を立てた。一方、クィニピアック族は近隣に住むペコット族（Pequot）の攻撃から自分たちを守ることを条件に、入植者たちに土地を売り払った。

1640年頃までには、町の神政府と碁盤の目のように区画された街路に象徴される都市計画が実行に移されていた。また町の名もクィニピアックからニューヘイブンに改められた。町はニューヘイブン植民地の主都となった。この頃はニューヘイブンはハートフォードを中心とするコネチカット植民地とは別個に存在していた。しかし、1646年にニューヘイブン植民地は経済危機に見まわれた。イングランドに向けて貨物を満載した船が植民地に戻らなかったのである。この事件によりニューヘイブンの貿易拠点としての地位は低下し、ボストンやニューアムステルダム（現在のニューヨーク）に大きく水をあけられることになった。

1660年、ダベンポートの願いは遂に叶い、その3年前に死去したエドワード・ホプキンスの遺産約1,000ポンドを投じてホプキンス学園が創立された。1661年、チャールズ1世の死亡宣告書に署名した判事がチャールズ2世に「国王殺しの大罪人」として追われ、このニューヘイブンに逃げてきた。ダベンポートはこの3名の判事をかくまい、町の北西に連なるウェスト・ロックに住まわせた。現在のニューヘイブンでは、これらの判事はThe Three Judgesと呼ばれている。

1664年、イングランドの政治的圧力により、ニューヘイブン植民地はコネチカット植民地に併合された。1701年にニューヘイブンはハートフォードと共にコネチカット植民地の主都となった。この重都制はコネチカットが州に昇格した後も1873年まで続いた。この頃のニューヘイブンは農業を主とした町であった。しかし、1716年にイェール大学が創立地のオールド・セイブルック（Old Saybrook）から移ってくると、ニューヘイブンはハーバード大学のケンブリッジ同様、学術都市としての地位を確立していった。

1世紀以上にわたって、ニューヘイブンの市民はフレンチ・インディアン戦争などでイギリス軍と戦ってきた。やがて独立戦争が開戦した。1775年4月23日、Governor's Foot Guard（総督の足元の護衛）と呼ばれるニューヘイブンの植民地軍がイギリス軍に苦しめられるようになると、彼らは植民地軍の大尉ベネディクト・アーノルド（Benedict Arnold）の指揮の下に火薬庫に押し入って武装し、ケンブリッジに向けて3日間にわたる行進を始めた。他のニューヘイブンの植民地軍は町に残り、ケンブリッジへの道中にニューヘイブンに泊まっていたジョージ・ワシントンの警護にあたった。この4月23日は、ニューヘイブンではPowder House Day（火薬庫の日）と呼ばれ、祝われている。

やがてイギリス軍は当時人口3,500人ほどだったこの町に攻め入ってきたが、ニューイングランドの他地域ほどには被害を受けなかった。そのため、ニューヘイブンには植民地時代の建物や街並みの多くが残されている。
独立戦争後イーライ・ホイットニー

ニューヘイブンは1784年に正式な市になり、アメリカ独立宣言やアメリカ合衆国憲法に署名したロジャー・シャーマンが初代市長に就任した。

18世紀末、イェール大学の卒業生である発明家、イーライ・ホイットニーが綿の紡績機を発明した。また、ホイットニーは市の北部に銃の製造工場を設立した。現在では、この工場はホイットニーの発明品を展示する博物館になっている（後述）。これらの発明品や工場によって、ホイットニーは手間のかかる手工業から抜け出し、産業的な大量生産の概念を生み出した。ホイットニーの手法を用い、コネチカット州は工業州としての発展を遂げていった。1836年には、ホイットニーの工場でサミュエル・コルトが世界初となる自動回転式拳銃を発明した。1800年代初頭にはファーミントン運河（Farmington Canal）が建設され、ニューヘイブンで生産されたこれらの工業製品をコネチカット州の内陸部に輸送する手段が確立された。

1839年、アフリカ大陸で誘拐され、「奴隷」としてスペインの商船アミスタッド号で連れてこられたアフリカ人が船上で反乱を起こし、船を乗っ取るという事件が起きた。彼らはアメリカ合衆国海軍によって逮捕、拘留され、殺人罪と反乱罪、そして奴隷・船・積荷の所有権をめぐる裁判がここニューヘイブンの地方裁判所で始まった（アミスタッド号事件）。2年後の1841年3月9日、連邦最高裁判所の判決によりこれらのアフリカ人は自由の身となり、翌1842年に彼らは故郷のアフリカへ帰還した。この一連の裁判は全米の注目を集め、各所で奴隷廃止の機運が高まった。また、後にニューヘイブンとシエラレオネの首都フリータウンとが姉妹都市提携を結ぶきっかけともなった。現在、市庁舎の横には奴隷の非公式なリーダーであったジョセフ・チンク（Joseph Cinque）の像が立っている。

南北戦争中、ニューヘイブンは戦争需要によって工業製品の生産が増加し、経済成長を遂げた。またヨーロッパ、特にイタリアからの移民が大量に移入したことにより、南北戦争中から20世紀初頭までに、ニューヘイブンの人口は2倍に増加した。彼らの子孫はニューヘイブンとその周辺に根付き、大規模な民族グループを形成している。ニューヘイブンに隣接するイーストヘイブン、ウェストヘイブン、ハムデンの各市では、現在住民の約半数がイタリア系アメリカ人である。
近現代

20世紀に入り、第一次世界大戦の後もニューヘイブンの成長は続いた。この頃の人口増加の要因は主に南部諸州からのアフリカン・アメリカンや、プエルトリコ系の流入であった。南北戦争が終わり、自由の身となっても人種差別の厳しかった南部の州から彼らは移り住んできたのであった。第二次世界大戦の直後、1950年にニューヘイブンの人口は164,443人を数え、ピークに達した。

しかし、1950年代後半にさしかかると、ダウンタウンは再開発や州間高速道路の建設によって取り壊され、全米の多くの他都市同様、郊外への人口流出が始まった。もともと市域が狭く、新たに建てられる家はニューヘイブン市域の外に建てられることが多かったということも、市の人口減少に拍車をかけていた。1960年代から1990年代に至るまで人口は減り続け、経済的にも衰退していった。数々の都市再生計画が立ち上げられたが、いずれも成果は芳しくなかった。市当局とイェール大学とが課税や土地利用をめぐって揉め事を起こすようになったのもこの頃であった。州内のブリッジポートやハートフォード同様、治安も悪化した。

2000年代に入り、ようやくニューヘイブンは持ち直してきている。イェール大学に代表される研究・教育水準の高さを生かし、市は生医学・薬学分野での研究所を誘致しようと働きかけている。ダウンタウンには高層オフィスビルのほか、高級コンドミニアム、各種ショップやバーが建ち並ぶようになり、活気を取り戻した。イェール大学をはじめとする市内の大学や学校は全米から、そして世界中から若者を集め続けている。

しかし40年にもわたる衰退の傷跡は完全には癒えていない。ニューイングランドの他の主要都市同様、ニューヘイブンでは貧困は未だに大きな問題である。2000年の国勢調査では、市の人口の1/4が貧困状態にあるとされている。治安が良くなってきてはいるものの、未だに殺人・強姦などの凶悪犯罪率は全米平均の2倍を超える水準である。また、市域の狭さと人口密度の高さ故に、ニューヘイブンは慢性的な住宅難に陥っている。
地理

ニューヘイブンは北緯41度18分36秒 西経72度55分12秒 / 北緯41.31000度 西経72.92000度 / 41.31000; -72.92000に位置している。