明治42年（1909年）、統監を辞任、枢密院議長に復帰したが同年10月、ロシア蔵相ウラジーミル・ココツェフ（ココフツォフ）と満州・朝鮮問題について非公式に話し合うため訪れたハルビン駅で、韓国の民族運動家安重根によって狙撃され、死亡した（安は直ちに捕縛され、共犯者の禹徳淳、曹道先、劉東夏の3名もまたロシア官憲に拘禁され、日本政府はこれを関東都督府地方法院に移し、1910年2月14日、安を死刑に、禹を懲役2年に、曹および劉を懲役1年6ヶ月に処する判決が下された）[4]。11月4日に日比谷公園で国葬が営まれた。
ただし、日本では「実行犯である安重根自身の取調べ供述において事実誤認、李氏朝鮮および当時の韓国国内の情勢への不理解も見られ、また当時の韓国最大の政治勢力であった一進会（自称会員100万人）が日韓合邦推進派であった事から、この事件が韓国国民全体の意見を代表したものであったか否かは議論の余地がある」という意見が広く唱えられている（韓国併合#歴史認識の差異も参照）。
また、暗殺に関しては、安重根単独説のほかにも、暗殺時に伊藤の着用していたコートに残る弾痕から発砲位置を算出した結果、併合強硬派による謀殺説もある[5]。 この暗殺事件がきっかけとなり、また口実とされ、日本による韓国併合は急速に進んだ[6]。
伊藤の死に際しては、日本に政治家多しといえども、伊藤のように世界の大勢を見て、東洋の平和を念じた者はいない。実に伊藤はわが国（韓国）の慈父である。 高宗（大韓帝国皇帝）[7][8].韓国人が公を暗殺したことは、特に悲しむべきことである。何故かといえば、公は韓国人の最も良き友であった。日露戦争後、日本が強硬の態度を以って韓国に臨むや、意外の反抗に逢った。陰謀や日本居留民の殺傷が相次いで 起こった。その時、武断派及び言論機関は、高圧手段に訴うべしと絶叫したが公ひとり穏和方針を固持して動かなかった。当時、韓国の政治は、徹頭徹尾 腐敗していた。公は時宜に適し、かつ正しい改革によって、韓国人をして日本統治下に在ることが却って幸福であることを悟らせようとし、六十歳を超えた 高齢で統監という多難の職を引き受けたのである。公を泰西の政治家と比較するに、公はビスマルクの如く武断的でなく、 平和的であったことはむしろグラッドストンに類するところである。 エルヴィン・フォン・ベルツ（ドイツ・医学者）我輩は伊博（伊藤博文の略）を平凡の常人なりとは云はない、されど彼の死は世界の大損失ドコロか、日本の小損失にもあらずとするのである。（中略）明治十三四頃、國會願望者なる者全國に蜂起して東京に押寄せ、若し之を聴かずんば極端の暴動も起こるべき輿論の大勢に迫られ、餘義なく十年後を期して輿望を達せしむる事にしたのであって、在朝伊博の輩は、只其時代の要求に屈服したに過ぎないのである。斯かる輩を指して立憲の大元首と賞揚するが如きは、往事迫害を恐れずして自由民権の論を主張せし民間の志士を無視するの甚だしき者である。（中略）非命の死に同情を寄せて、死者を哀惜するのは人情の常であるから、我輩とても亦其事を非難しないが、其程度を過ごせし没理狂的の哀惜には寧ろ大反対である。 宮武外骨[9]
などの評価がある。宮武の評価は、時としては異例のものであった。これまで伊藤を攻撃していたマスメディアまでも、その死に際して「伊藤公の死は日本の大損失である、否世界の大損失であると叫び、明治維新の大功臣、憲法政治の大元首、古今無類の大偉人を失ひたりと嘆き」と、伊藤を高く評価した。
埋葬は東京都品川区西大井六丁目の伊藤家墓所。霊廟として、山口県熊毛郡大和町束荷（現光市束荷）の伊藤公記念公園内に伊藤神社があったが、昭和34年（1959年）に近隣の束荷神社境内に遷座した。記念公園には生家（復元）や銅像、伊藤公記念館、伊藤公資料館などがあり、桜に混じって韓国国花ムクゲが植えられている。平成18年（2006年）5月、山口県はこの公園に隣接した山林に、森林づくり県民税で「伊藤公の森」を整備して光市に引き渡した。後に日本銀行券C千円券（1963年11月1日 - 1984年11月1日発行）の肖像として採用された。
4度も内閣総理大臣を務めた国家の重鎮・伊藤と明治天皇の関係は常に順風満帆であったわけではない。明治10年代、天皇は元田永孚・佐々木高行ら保守的な宮中側近らを信任したため、近代化を進める伊藤ら太政官首脳との関係は円滑でない事もあった（後年、伊藤が初代の内閣総理大臣と宮内大臣を兼ねた背景には宮中保守派を抑えるとともに、天皇に立憲君主制に対する理解を深めて貰う側面もあった）。また、伊藤が立憲政友会を結成する際には政党嫌いの天皇の不興を買い、その説得に苦慮したという。
上記のように明治天皇と伊藤との間は、常に順風満帆であったわけではないが、明治天皇は伊藤を信頼していた。明治天皇の好みの性格は、お世辞を言わない無骨な正直者で、金銭にきれいなことだった。伊藤はこれに当てはまり、伊藤に私財のないことを知った明治天皇は、明治31年（1898年）に10万円のお手許金を伊藤に与えている。 日露戦争開戦直前の御前会議当日の早朝、伊藤に即刻参内せよという勅旨が下り、伊藤が参内すると明治天皇は夜着のまま伊藤を引見し、「前もって伊藤の考えを聞いておきたい」と述べた。これに対し伊藤は「万一わが国に利あらずば、畏れながら陛下におかせられても重大なお覚悟が必要かと存じます」と奏上した。また、伊藤は天皇から「東京を離れてはならぬ」とまで命じられていた[10]。
明治19年（1886年）、当時あまり顧みられていなかった、女子高等教育の必要性を痛感した伊藤は、自らが創立委員長となり｢女子教育奨励会創立委員会」を創設した。