社伝によれば、天平2年（730年）、武蔵国豊島郡芝崎村に入植した出雲系の氏族が、大己貴命を祖神として祀ったのに始まる[8]。神田はもと伊勢神宮の御田（おみた＝神田）があった土地で、神田の鎮めのために創建され、神田ノ宮と称した。

承平5年（935年）に平将門の乱を起こして敗死した平将門の首が京から持ち去られて当社の近くに葬られ、将門の首塚は東国（関東地方）の平氏武将の崇敬を受けた。嘉元年間（14世紀初頭）に疫病が流行し、これが将門の祟りであるとして供養が行われ、延慶2年（1309年）に当社の相殿神とされた。平将門神に祈願すると勝負に勝つといわれる。

江戸時代、江戸城増築に伴い慶長8年に神田台へ、さらに元和2年（1616年）に現在地へ遷座した[9]。江戸総鎮守として尊崇された。神田祭は江戸三大祭りの一つである。山車は将軍上覧のために江戸城中に入ったので、「天下祭」と言われた。当時は山車が中心だったが、明治に入ると電線の普及等により山車の数は大幅に減少した。「神田囃子」は東京都の無形民俗文化財に指定されている。江戸時代初期に豪華な桃山風社殿が、天明2年（1782年）には権現造の社殿が造営されたが、1923年（大正12年）の関東大震災で焼失した。その後、1934年に当時では珍しい鉄骨鉄筋コンクリート構造で権現造を模して再建されたことから、1945年（昭和20年）の東京大空襲では、境内に焼夷弾が落ちたにもかかわらず本殿・拝殿などは焼失を免れた。

江戸時代には「神田明神」と名乗り、周辺の町名にも神田明神を冠したものが多くあった。明治に入って神社が国家の管理下に入ると、明治元年（1868年）に准勅祭社に指定された。その後、府社に列せられ、明治4年（1872年）に正式の社号が「神田神社」に改められた。1874年（明治7年）、明治天皇が行幸するにあたって、天皇が参拝する神社に逆臣である平将門が祀られているのはあるまじきこととされて、平将門が祭神から外され、代わりに少彦名命が茨城県の大洗磯前神社から勧請された。平将門神霊は境内摂社に遷されたが、太平洋戦争後の1984年（昭和59年）になって本社祭神に復帰した。現在は神社本庁の別表神社となっている。また旧准勅祭社の東京十社の一社である。

アニメ文化の発信地である秋葉原（アキバ）が近いこともあって、2010年代に『ラブライブ!シリーズ』、『シュタインズ・ゲート』、『東京レイヴンズ』といったアニメやライトノベル作品の舞台となり、聖地巡礼を受けるようになった。2019年には「訪れてみたい日本のアニメ聖地88」に認定され、認定プレートとご朱印（スタンプ）が神田明神文化交流館に設置されている[10]。

2016年より、8月10日頃の金土日の3日間「神田明神納涼祭り」を開催[11]。第2回には初日を「アニソン盆踊り」と銘打ってアニソン音頭をメインで掛ける日とし[12]、第4回には「アニソン・JPOP盆踊り（Tokyo Bon Dance Fest 2019）」として開催した[13]。

2018年12月15日、700人収容の多目的ホール「神田明神ホール」や物販、飲食スペースなどを備えた神田明神文化交流館「EDOCCO（エドッコ）」が境内に開館した[14]。

また、野村胡堂の代表作『銭形平次捕物控』の主人公・銭形平次が当神田明神下の長屋に住居を構えていたという設定から、敷地内の本殿右手横に映画制作関係者などで建立した「銭形平次の碑」がある。銭形平次は架空の人物である。
伝説

神田明神を崇敬する者は成田山新勝寺（千葉県成田市）を参拝してはいけないというタブーが伝えられている。これは朝廷に対して叛乱を起した平将門を討伐するため、僧・寛朝を神護寺護摩堂の空海作といわれる不動明王像と共に現在の成田山新勝寺へ遣わせ、乱の鎮圧のため動護摩の儀式を行わせたことによるもので、即ち、新勝寺参拝は将門を苦しめるとされるため。