弘化4年12月22日（1848年1月27日）、薩摩国鹿児島城下の加治屋町二本松馬場（下加治屋町方限、現・県立鹿児島中央高校化学講義室付近）に、薩摩藩士・東郷実友と堀与三左衛門の三女・益子の四男として生まれる。幼名は仲五郎。14歳の時、元服して平八郎実良と名乗る。文久3年（1862年）、薩摩藩士として薩英戦争に従軍し初陣、慶応3年（1867年）6月に分家して一家を興す。戊辰戦争では春日丸に乗り組み、新潟・箱館まで転戦して阿波沖海戦や箱館戦争、宮古湾海戦で戦う。体型は小柄ではあるが下の写真でも分かるように美男子であり、壮年期においては料亭「小松」で芸者から随分もてたとされる。
イギリス留学留学時の東郷（1877年）

明治の世の中になると海軍士官として明治4年（1871年）から同11年（1878年）まで、イギリスのポーツマスに官費留学する。

よく知られる逸話に、東郷は当初、鉄道技師になることを希望していた。イギリスに官費留学する際、最初は大久保利通に「留学をさせてください」と頼み込んだが色よい返事はもらえなかった。後で東郷は大久保が自分に対して「平八郎はおしゃべりだから駄目だ」とする感想を他者に漏らしたことを伝え聞いて、自省してその後は寡黙に努めた。それが長じて、後年は「沈黙の提督」との評価を得るまでになった。大久保の次に西郷隆盛に頼み込んだところ、「任せなさい」と快諾、ほどなく東郷のイギリス留学が決定したという風説があるが、実際には小笠原長生が東郷から直接聞いた思い出話に西郷や大久保の名前は無く、選抜の成否がわからなかったので易者に占ってもらったと述べているのみである。[7]

当初ダートマスの王立海軍兵学校への留学を希望したがイギリス側の事情で許されず、ゴスポートにある海軍予備校バーニーズ・アカデミー（英語版）で学び、その後に商船学校のテムズ航海訓練学校で学ぶことになる。留学先では「To go, China」とからかわれるなど苦労が多く、おしゃべりだった性格はすっかり無口になってしまったと言われている。しかし宮古湾海戦に参戦していたことを告げると、一躍英雄として扱われることとなった。

この留学の間に国際法を学んだ。後年、東郷は日清戦争時に防護巡洋艦「浪速」の艦長として、停船の警告に応じないイギリスの商船「高陞号」を撃沈する（高陞号撃沈事件）。英国留学で得た知識により、撃沈は国際法に違反しない行為であると正しく判断できたのだとされている。さらに、この時の沈着な判断力が、後に連合艦隊司令長官に人選される要素となった。

帰国途上、西郷隆盛が西南戦争を起こして自害したと知った。後に、「もし日本に残っていれば、どうしたか」と問われた際には、躊躇することなく「西郷軍に身を投じただろう」と答えている[8]。実際、東郷の実兄である小倉壮九郎は、薩軍三番大隊九番小隊長として西南戦争に従軍し、城山攻防戦の際に自決している。
ハワイでのクーデターに際して

明治26年（1893年）、ハワイ王国のリリウオカラニ女王が米国との不平等条約を撤廃する動きをみせると、これに強く反発したアメリカ人農場主らが海兵隊160名の支援を得てクーデターを起こし、王政を打倒して「臨時政府」を樹立した。この時、日本は邦人保護を理由に東郷率いる巡洋艦「浪速」他2隻をハワイに派遣し、ホノルル軍港に停泊させてクーデター勢力を威嚇した[9]。女王を支持するハワイ先住民らは涙を流して歓喜したといわれる[9]。また、ハワイ在留日本人も女王支持派に同情的であった。しかしアメリカによるハワイ併合は明治31年（1898年）に実現される。
日清戦争

明治27年（1894年）の日清戦争では初戦より「浪速」艦長を務め、豊島沖海戦（高陞号事件を含む）、黄海海戦、威海衛海戦で活躍する。威海衛海戦後に少将に進級し同時に常備艦隊司令官となるが、戦時編成のため実際には連合艦隊第一遊撃隊司令官として澎湖島攻略戦に参加。

日清戦争後に一時病床に伏すも、明治32年（1899年）に佐世保鎮守府司令長官となり、同34年（1901年）には新設の舞鶴鎮守府初代司令長官に就任した。これは後の対米戦備での位置づけから閑職であったと見なされがちであるが、来る対露戦を想定してロシアのウラジオストク軍港に対峙する形で設置された重要ポストであり、決して閑職ではなかった。但し、東郷自身は中央への異動を希望していたようである。

日露開戦前の緊迫時期の明治36年（1903年）10月、海軍大臣・山本権兵衛に呼び戻され、日高壮之丞に代わり常備艦隊司令長官に任命される。