遣隋使の時代には、既に港は開かれていたが、平清盛により経が島の近くに都である福原京が計画された前後に貿易の拠点として整備され「大輪田泊（おおわだのとまり）」と呼ばれたことがその発展の始まりとされる。その後、明治維新に至るまでは「兵庫津」と呼ばれ、京・大坂の外港・経由地として栄えた。
江戸時代に、西宮宿（現在の西宮市）と大蔵谷宿（同明石市）とをつなぐ宿場として兵庫津が存在した。兵庫津は自治組織として港町として扱われた浜方と、宿場町を司る岡方とが存在した。本陣は浜方と岡方の双方に存在したが、江戸時代中期以降は浜方の本陣の利用を希望する大名家が漸増した。
条約による1868年の兵庫開港の際、神戸村が事実上の開港場となり、外国人居留地や港が造られ、1879年に勅令により「神戸港」となる。その後、日清戦争・第一次世界大戦を経て上海・香港・シンガポールをしのぐ規模となり、1990年代初期までの間、東洋最大の港として発展を続けた。港の発展は造船・鉄鋼・機械を中心とした工業の発達も促し、阪神工業地帯の中核を担う日本有数の重工業都市に成長する。県名の由来にもなっている「兵庫」と神戸とは元来別々の町村であったが、市域の拡大によって一つの都市としてまとまっていった。
太平洋戦争末期、他の諸都市同様に米軍の重要な戦略目標で有った神戸はB29による度重なる空襲を受け、当時の市街地・工業施設・港湾施設の大半を破壊・焼失し、多くの犠牲者を出した。（神戸大空襲）
戦後、高度経済成長期に埋立地造成用の土砂を後背山地に求め、「山、海へ行く」を合言葉に、臨海部でポートアイランドを代表とする工業用地や港湾施設を造成し、土砂採取後の丘陵地を住宅地・産業団地として開発、都市におけるインフラの拡充を積極的に進めた。1981年のポートアイランド第一期竣工時には、地方博ブームの先駆けとなる「神戸ポートアイランド博覧会（ポートピア'81）」を開催して成功させるなど、これらに代表される都市経営手法は、「株式会社神戸市」と称されて全国の市町村から自治体経営の手本とされた。
1995年に阪神・淡路大震災が発生し、神戸は甚大な被害を受けた。震災での被害による港湾機能の麻痺や、震災以前からの上海・香港・高雄・釜山などに代表されるアジア諸港の追い上げによって、国際貿易港としての相対的地位はかつてと比べると低下した。しかし、近年の震災復興により国際貿易港としての地位を回復する傾向にあり、日本を代表する港湾都市の一つとして発展を続けている。
また、人口においても震災直後に7%あまり減少したものの、新長田駅前・JR六甲道駅前での震災復興再開発事業やポートアイランド二期事業・神戸医療産業都市構想などの事業によって呼び戻されて2004年11月には震災前を超えるまでに回復した。2007年3月に実施された国勢調査の速報値では152万9187人となっていて過去最大を更新している。なかでも、都心への回帰現象がみられる中央区や大阪へのベッドタウン化が進む東灘区や灘区において高い増加率が目立っている。
中央区東部一望（右奥はポートアイランド）東方地域一望（中央区・灘区・東灘区）奥は大阪平野へと続く
明石海峡に架かる明石海峡大橋を介して淡路島にも通じる。
南は瀬戸内海の大阪湾に面して世界でも有数の港が広がっている。また、市域中央部の六甲山地が海の近くまで迫っているために市街地は南北に狭く東西に長い。神戸市というと一般的なイメージとしては、この東西にベルトのように伸びる市街地のイメージや港町を思い浮かべる人も多いが、実際は山林や北区などに見られる裏六甲より北の農村部の方がはるかに面積は広い。
主な山
六甲山系
六甲山 - 西お多福山 - 東お多福山 - 石楠花山 - 摩耶山 - 堂徳山（市章山） - 碇山 - 再度山 - 世継山 - 諏訪山 - 菊水山 - 高取山（鷹取山）
丹生山系
帝釈山 - 丹生山
主な河川
住吉川
石屋川
都賀川
生田川 - 布引渓流（名水百選）
宇治川
新湊川
武庫川
志染川（別名：山田川、加古川支流）
淡河川（加古川支流）
明石川
主な湖沼
つくはら湖
