1945年（昭和20年）8月6日午前8時15分17秒（日本時間）、アメリカ軍のB-29爆撃機「エノラ・ゲイ」が、建物の西隣に位置する相生橋を投下目標として原子爆弾「リトルボーイ」を投下した。投下43秒後、爆弾は建物の東150メートル・上空約600メートルの地点（現・島内科医院付近）で炸裂した。
原爆炸裂後、建物は0.2秒で通常の日光による照射エネルギーの数千倍という熱線に包まれ、地表温度は3,000℃に達した。0.8秒後には、前面に衝撃波を伴う秒速440メートル以上の爆風（参考として、気温30℃時の音速は秒速349メートルである）が襲い、350万パスカルという爆風圧（1平方メートルあたりの加重35トン）にさらされた。このため建物は、原爆炸裂後1秒以内に3階建ての本体部分がほぼ全壊したが、中央のドーム部分だけは全壊を免れ、枠組みと外壁を中心に残存した。
ドーム部分が全壊しなかった理由として、
衝撃波を受けた方向がほぼ直上からであったこと[注 4]
窓が多かったことにより､爆風が窓から吹き抜ける（ドーム内部の空気圧が外気より高くならない）条件が整ったこと
ドーム部分だけは建物本体部分と異なり、屋根の構成材が銅板であったこと。銅は鉄に比べて融点が低いため、爆風到達前の熱線により屋根が融解し、爆風が通過しやすくなったこと
などが挙げられている。ドーム部分は全体が押し潰されるほどの衝撃を受けなかったため、爆心地付近では数少ない被爆建造物（被爆建物）として残った｡
原爆投下時に建物内で勤務していた内務省職員ら約30名は、爆発にともなう大量放射線被曝や熱線・爆風により全員即死したと推定されている[注 5]｡なお、前夜宿直にあたっていた県地方木材会社の4名のうち、1名は原爆投下直前の8時前後に自転車で帰宅し自宅前で被爆し負傷したものの、原爆投下当日に産業奨励館に勤務していた人物の中で唯一の生存者となった｡
その後しばらくはまだ窓枠などが炎上せずに残っていたものの、やがて可燃物に火がつき建物は全焼して、ついにレンガや鉄骨などを残すだけとなった。 広島の復興は、一面の焼け野原にバラックの小屋が軒を連ねる光景から始まった。その中でドーム状の鉄枠が残る産業奨励館廃墟はよく目立ち、サンフランシスコ講和条約により連合軍の占領が終わる1951年（昭和26年）ごろにはすでに、市民から「原爆ドーム」と呼ばれるようになっていた[7]。 復興が進むなか、全半壊した被爆建造物の修復ならびに解体が進められ、当初は産業奨励館廃墟も取り壊すべきだという意見も多かった。新聞は「自分のアバタ面を世界に誇示して同情を引こうとする貧乏根性を広島市民はもはや精算しなければいけない」（夕刊ひろしま、1948年（昭和23年）10月10日付）などと書き立てた[8]。しかし1949年8月6日に広島平和記念都市建設法が制定されると、恒久の平和を誠実に実現しようとする理想の象徴として広島平和記念公園構想が本格化する[9]。 1953年（昭和28年）に、所有権が広島県から広島市に移転されるなかで、原爆ドームこと産業奨励館廃墟の除去はひとまず留保され、1955年（昭和30年）には丹下健三の設計による広島平和記念公園（平和公園）が完成した。この公園は、原爆ドームを北の起点として原爆死没者慰霊碑・広島平和記念資料館が南北方向に一直線上に位置するよう設計されており、原爆ドームをシンボルとして際立たせる意図があった。 原爆ドームは原子爆弾の惨禍を示すシンボルとして知られるようになったが、1960年代には風化が進んで崩落の危険が生じた[10]。一部の市民からは「見るたびに原爆投下時の惨事を思い出すので、取り壊してほしい」という根強い意見があり、存廃の議論が活発になった。広島市当局は当初「保存には経済的に負担がかかる」「貴重な財源は、さしあたっての復興支援や都市基盤整備に重点的にあてるべきである」などの理由から原爆ドーム保存には消極的で、一時は取り壊される可能性が高まっていたが、議論の流れを変えたのは、市内の大下学園祇園高等学校の生徒・楮山ヒロ子
「原爆ドーム」としての再出発
楮山ヒロ子は、1歳のときに広島市平塚町（現在の中区東平塚町・中平塚町・西平塚町）の自宅で被爆し、15年後の1960年（昭和35年）に「あの、いたいたしい[注 6]、産業奨れい館だけがいつまでもおそるげん爆を世にうったえてくれるだろうか（1959年8月6日付、原文ママ）」などと日記に書き遺し、被爆による放射線障害が原因とみられる急性白血病のため16歳で亡くなった[11]。この日記を読み感銘を受けた平和運動家の河本一郎や「広島折鶴の会」が中心となって保存を求める運動が始まり、1966年（昭和41年）に広島市議会が永久保存することを決議する[12]。
翌年には保存工事が完成し、その後定期的に補修工事が施されるなど広島市単体での保存・管理が続いていたが、被爆50年にあたる1995年（平成7年）に国の史跡に指定され、翌1996年12月5日には、ユネスコの世界遺産（文化遺産）への登録が決定された。