発足当時、かつての財閥（三井財閥・住友財閥）の枠を越えたことで話題になった。その歴史から、三井グループと住友グループの両方に属している。太平洋戦争における日本の敗戦後、連合国軍最高司令官総司令部（GHQ）は財閥解体を進めた。GHQ占領終了後、住友グループはほぼ戦前同様に集結したのに対し、三井グループは帝国銀行の第一銀行（現みずほ銀行）と三井銀行への分離を機にグループ各社が他の銀行とも取引をし、メインバンクという点で住友グループにおける住友銀行ほどの地位を三井銀行は三井グループに対してなさなかった経緯が関連している（詳細は「三井グループ」参照）。

1990年、三井銀行が規模を拡大する意図で太陽神戸銀行と対等合併する結果となった（行名は太陽神戸三井銀行。1992年にさくら銀行に行名変更）。規模は預金高ベースで、合併前は都市銀行13行中、下位に位置していた三井・太陽神戸両行が、合併の結果、第一勧業銀行（現在のみずほ銀行）に次ぐ第2位に拡大した。しかし1998年には、さくら銀行の株価は165円にまで落ち込んだ。

1999年に住友銀行とさくら銀行は「将来の統合を前提とした全面提携」を発表した。その後の動きとして、1999年にさくら銀行は単独で、個人向け融資やコンビニATM、ジャパンネット銀行（現PayPay銀行）を設立した。

2000年に発表された合併比率は、さくら銀行の普通株式1株につき住友銀行の普通株式0.6株が割当交付されるもので、「さくら銀行1000株の価値＝住友銀行600株の価値」である。
西川頭取時代以降

西川善文頭取時代は、失われた10年での経済情勢に加え、2002年10月策定竹中プランの影響により、厳格な不良債権対策を迫られた。前身銀行（主に住友銀行）からの大口貸出先で不良債権比率の高かった三洋電機と三洋電機クレジット、カネボウ[注釈 5]、ダイエー、フジタなどは債権放棄などの金融支援を順次実施した。
わかしお銀行との逆さ合併

同行が保有していた資産の含み益（約2兆円）を帳簿上に現実化させ、旧・住友銀行が保有する有価証券の含み損（約8000億円）を一掃させる為の手段として、旧・太平洋銀行の承継銀行として旧さくら銀行が設立したわかしお銀行をSMFGの完全子会社化した上で、わかしお銀行に対して三井住友銀行が逆さ合併することを2003年1月に発表。同年3月17日付けで三井住友銀行（初代法人）は逆さ合併により消滅し、わかしお銀行が三井住友銀行（2代目法人）へ商号変更。

合併に先立つ3月には、1986年に住友銀行が資本提携していた米国の投資銀行であるゴールドマン・サックスに対してSMFGが第三者割当増資を行い、優先株で1500億円を調達している。
UFJホールディングスへの経営統合提案

2004年5月には、UFJホールディングス（UFJHD）が子会社のUFJ信託銀行（現・三菱UFJ信託銀行：三菱UFJフィナンシャル・グループ〈MUFG〉傘下）株式を住友信託銀行（現・三井住友信託銀行：三井住友トラスト・ホールディングス傘下）へ売却する方向で詰めていたものの、同年7月にUFJHDが三菱東京フィナンシャル・グループ（MTFG）へ金融持株会社レベルでの経営統合を申し入れ、住信へのUFJ信託売却は白紙化された。これに住信が異議を唱えて合併差し止めの提訴をするなどし、これに触発される形で7月30日に三井住友フィナンシャルグループがUFJホールディングスとの経営統合を提案するも、8月には三菱UFJフィナンシャル・グループ発足に向けての合意に達したことで頓挫した（→UFJ銀行#三井住友FGによる経営統合の申入れ）。

2010年11月1日に、親会社の三井住友フィナンシャルグループは、米国ニューヨーク証券取引所（NYSE）に上場。北山FG社長は、NYSEからブルームバーグテレビジョンの生放送で、主に投資家向けディスクロージャーの透明性を高めることが目的と説明した。
地域的基盤

前身の三井銀行（→さくら銀行）と太陽銀行（→太陽神戸銀行→さくら銀行）は首都圏、神戸銀行（→太陽神戸銀行→さくら銀行）と住友銀行は関西地区を地盤としている。