行名のみずほ（瑞穂）とは、「みずみずしい稲の穂」の意とされ、「瑞穂国」（葦原千五百秋瑞穂国）は、日本書紀に登場した日本の美称でもある。日本を代表する金融機関を目指す[10]とのことで、この商号とされた。

みずほコーポレート銀行と旧みずほ銀行の合併後の当行は、みずほコーポレート銀行の法人格、および富士銀行の前身である安田銀行が、系列10行と大合併をするために準備会社として設立した保善銀行の法人格を引き継いだものとなっていたため、1923年5月7日を設立年月日としている。（旧みずほ銀行は、法人格としては旧第一勧業銀行を引き継いだものとなっていたため、日本勧業銀行の設立年月日である1897年6月7日を設立年月日としていた。）
2002年から2013年までの旧みずほ銀行

みずほフィナンシャルグループ内で、グローバルリテール部門の中核とし個人および中堅・中小企業や、地方自治体を対象とする銀行と位置づけられていた。大手法人や金融機関、海外業務に関しては、同グループ傘下であるみずほコーポレート銀行が業務対象としていた。

旧みずほ銀行は主にリテール業務を主体、みずほコーポレート銀行はホールセール業務を主体としていたが、本来はみずほコーポレート銀行が管掌する（21世紀になってから政令指定都市に昇格した市や中核市以下の都市などでの）ホールセール業務を旧みずほ銀行が行うケースや、みずほコーポレート銀行がリテール業務を担う場合があるなど、明確な線引きはなかったとされる。

2013年6月30日まで、本店は千代田区内幸町のみずほ銀行内幸町本部ビル（旧第一勧業銀行本店ビル）に置かれていた。なお、同店の窓口（口座店）名称は、2012年10月以降「東京営業部」と称している。
公的資金

2005年、新商品開発などによる経費率・収益力の改善、不良債権の最終処理や、公的資金の早期完済などを掲げた「Channel to Discovery」プランを発表した。これ以降は、重複店舗の一段の統廃合・再配置を進めた。また、不良債権処理も加速化し、みずほフィナンシャルグループ設立時に計上した巨額の赤字処理を以ってほぼ終え、公的資金の返済（旧興銀の旧住宅金融専門会社への不良債権処理に関する追徴課税の取り消しによる税還付2800億円を充当）等により、信用力も一時に比べ向上した。

2006年7月4日には、三菱UFJフィナンシャル・グループ（MUFG）に続いて公的資金は全額完済され、同年11月8日、親会社であるみずほフィナンシャルグループがニューヨーク証券取引所（NYSE）に上場した。バブル経済崩壊後はじめて邦銀グループがNYSEへの上場を果たした。
地域的基盤

日本勧業銀行（第一勧業銀行の前身）が大正時代に全国各地、台湾（台北、新竹、台中、台南、高雄支店）に設立されていた農工銀行からの事業譲渡や、農工銀行の吸収合併に伴う受け皿支店の開設などの理由に加えて、戦後には、旧勧銀の宝くじ業務の取り扱いもされていたため、3大メガバンクで唯一全ての都道府県庁所在地・政令指定都市に必ず1つ以上の店舗を有している[注釈 1]。

富士銀行の業務を引き継いで、東京都、東京23区、大阪市、北九州市の指定金融機関とされている[注釈 2]。

東京都の島嶼地域においては、都の指定金融機関である関係上、大島町（伊豆大島）には築地支店・大島特別出張所が、八丈町（八丈島）に浜松町支店・八丈島特別出張所がそれぞれ設置されている。かつては、三宅村（三宅島）に東京中央支店・三宅島出張所が設置されていた[注釈 3]。

第一勧業銀行、富士銀行、日本興業銀行は、いずれも東京に本店を置く都市銀行と長期信用銀行であった。このように前身行に関西都銀（在阪三大都市銀行）が含まれなかったので、これらが含まれる三菱UFJ銀行（旧三和銀行）、三井住友銀行（旧住友銀行）[注釈 4]、りそな銀行（旧大和銀行）と比較すると、関西地区の経営基盤や店舗網は脆弱である。このために、メガバンク・都市銀行の中では、東京都や神奈川県などの首都圏に店舗網・経営基盤が集中している。
企業間提携