洋学校（現・愛知県立旭丘高等学校）卒業後、当時、ロシアとの間に結ばれた千島樺太交換条約をうけて、ロシアに対する日本の危機感を持ち、陸軍士官学校を受験した。しかし不合格になったため、軍人となることを諦め、外交官となる決意をする。

外交官を目指し1881年（明治14年）、東京外国語学校（現東京外国語大学）露語科に進学。この時にロシア語を教授したのがレフ・メーチニコフ、黒野義文、古川常一郎で、次第にロシア文学に心酔するようになる[2]。また東京外国語学校が東京商業学校と合併し、四迷の在学していた東京外国語学校露語科は東京商業学校（現一橋大学）第三部露語科となった。ところが、四迷は、この合併に伴い東京商業学校校長に就任した矢野二郎に対し悪感情を持つようになる[1]。そこで1886年1月に退学届けを出し同校を中退[1]。

なお大田黒重五郎（九州電気軌道社長、九州水力電気社長等を歴任）は東京外国語学校および東京商業学校での親友であり、後に大田黒をモデルにして小説『浮雲』を執筆した[3]。

また、彼の自筆履歴書によると、1883年（明治16年）2月1日から1885年（明治18年）12月25日まで、専修学校（現在の専修大学）に学んでいる。そして、卒業して間もなく、坪内逍遥宅に通うようになる。

1886年（明治19年）1月24日、坪内逍遙を初めて訪問し、『小説神髄』の疑義をただした[4]。同年2月、坪内逍遥を訪ね、以後毎週通うようになる[5]。その勧めで『小説総論』を「中央学術雑誌」に発表（冷々亭主人名義）。また、ツルゲーネフの『父と子』の一部を訳していたが、未発表に終わった。

翌1887年（明治20年）6月20日に『新編浮雲』第一篇を、坪内雄蔵（逍遥の本名）名義で刊行。「はしがき」で初めて「二葉亭四迷」と名乗った。この処女小説『浮雲』（第一篇?第三篇）は、第三篇以降の草案があったため未完に終わった作品として紹介されていることもあるが、写実主義の描写と言文一致の文体で当時の文学者たちに大きな影響を与えたことは事実である。先立って書かれた坪内逍遥の『当世書生気質』に色濃く残っていた戯作文学の影響を排し、日本の近代小説の始まりを告げたとされる。またロシア語が堪能で同時代のロシア写実主義文学を翻訳、紹介した。特にツルゲーネフの『猟人日記』の一部を訳した「あひゞき」（『国民之友』1888年7月25号から8月27号まで）は、その自然描写の文体が多くの作家に影響を与えた。

同年に内閣官報局の官吏となり筆を折る。また社会主義の影響から、貧民救済策について考える。貧民街に出入りするうち、出会った娼婦が最初の妻福井つねである。貧民救済への関心は、のちに貧民問題や労働問題を扱うジャーナリストとなる松原岩五郎や横山源之助との交友を生み、彼らに対して影響を与えることになった。

1895年（明治28年）に陸軍大学校露語科教示嘱託、1899年（明治32年）に再び東京外国語学校（現東京外国語大学）が設立され、旧東京外国語学校時代の恩師である古川常一郎の推薦を受けロシア語科の教授となる。短い在職期間ながら多くの教え子から慕われた。海軍編修書記を経て[6]、1901年（明治34年）には海軍大学校露語教授嘱託を務める。

1902年（明治35年）、ロシア滞在中にエスペラントを学び、1906年（明治39年）に日本で入門書を出版した。

内藤湖南の紹介で、1904年（明治37年）3月4日に大阪朝日新聞に入社し、東京出張員となった。だがその仕事にはあまり向かず、東京朝日新聞社主筆池辺三山のはからいで東京朝日に移籍し、小説を連載する。月給百円とかなりの高給だった。『其面影』や『平凡』を発表し、読者からは大好評で迎えられる。