1887年（明治20年）、育ててくれた祖母、浪子が77歳で死去。

26歳でかねてから構想していた『日本植物志図篇』の刊行を自費で始めた。印刷工場に出向いて石板印刷技術を学び、絵は自分で描いた。これは当時の日本には存在しなかった、日本の植物誌であり、今で言う植物図鑑のはしりであり、マキシモヴィッチからも高く評価された[注釈 4]。

この時期、富太郎は東京と郷里を往復しながら研究者の地位を確立していくが、その研究費は亡き祖母浪子に代わって猶が工面し、富太郎の求めるままに東京に送金したため、実家岸屋の経営は瞬くうちに傾いていった[11]。

富太郎は佐川の実家に本妻の牧野猶がいたが、1887年（明治20年）12月ごろ、菓子屋の看板娘小澤壽衛（14歳）に一目惚れし、親の承諾を得ないまま下谷区根岸の御隠殿（輪王寺宮門跡の別邸）跡の離れ家で一緒に暮らしはじめ、翌年（明治21年）10月、第一子長女・園子（1888年 - 1893年）が生まれる[17]。

1889年（明治22年）、27歳で新種の植物を発見。『植物学雑誌』に発表し、日本ではじめて新種のヤマトグサに学名をつけた。1890年（明治23年）、28歳のときに東京府南葛飾郡の小岩町で、分類の困難なヤナギ科植物の花の標本採集中に、柳の傍らの水路で偶然に見慣れない水草を採集する機会を得た。これは世界的に点々と隔離分布するムジナモの日本での新発見であり、そのことを自ら正式な学術論文で世界に報告したことで、世界的に名を知られるようになる。

しかし同年、植物学教室の蔵書の無断持ち出しなどが問題となり、矢田部教授から植物学教室の出入りを禁じられ、研究の道を断たれてしまう。失意の牧野は日本の植物標本とともにロシアに亡命し、マキシモヴィッチの下で研究を続けようと企てたが、1891年にマキシモヴィッチがインフルエンザで急死したことにより、実現しなかった[注釈 5]。

1891年（明治24年）、実家の岸屋がついに破綻し、家財を精算するために帰郷する。このとき当主の富太郎は、猶と番頭の井上和之助を結婚させて店の後始末を託す[18] [注釈 6]。

一方、富太郎は郷里の高知に帰郷中、地元の植物の研究をしたり、西洋音楽の演奏会を開いて自ら指導し、時には指揮者として指揮棒を振ったりしていたが、長女園子の急死の電報を受け、遺産相続分の代金（約60万円）を受領し、急遽帰京。

1893年（明治26年）、矢田部非職後に東京帝国大学理科大学の主任教授となった松村任三教授に呼び戻される形で助手となった。助手の月給で一家を養っていたが[注釈 7]、文献購入費などの研究に必要な資金には事欠いていた。それでも、研究のために必要と思った書籍は非常に高価なものでも全て購入していたため多額の借金をつくり、ついには家賃が払えず、家財道具一切を競売にかけられたこともある[注釈 8]。

その後、各地で採集しながら植物の研究を続け、多数の標本や著作を残していく。ただ、学歴の無いことと、大学所蔵文献の無断借用や返却の遅延などにより、研究室の同僚との軋轢が絶えなかった[11]。

1900年（明治33年）から、未完に終わった『日本植物志図篇』の代わりに新しく『大日本植物志』を刊行する。今回は自費ではなく帝大から費用が捻出され、東京の大手書店・出版社であった丸善から刊行された。だがこれも松村の妨害により、4巻で中断してしまった。

1916年（大正5年）には個人で『植物研究雑誌』（英語版、wikidata）を創刊（3号までは自己負担による発刊）。発刊間隔が空いたり、池長孟からの援助が打ち切られたりするなど、その刊行継続は必ずしも順調ではなかった[20]。支援者であった中村春二の死去により再び行き詰まった後、1926年（大正15年）に津村重舎（後には会社としての津村順天堂→ツムラ）の財政的援助を得て復刊にこぎ着けている[注釈 9]。

1912年（明治45年）1月30日（牧野49歳）から1939年（昭和14年）5月31日（77歳）まで東京帝国大学理科大学講師を勤める。この間、学歴を持たず、権威を理解しない牧野に対し、松村教授など学内から何度も圧力があったが、学長の箕作佳吉の庇護もあり結局牧野は帝大に必要な人材とされ、助手時代（1893年（明治26年）9月11日）から計約46年間、大学に留任している。牧野富太郎墓碑

1927年（昭和2年）4月、65歳で藤井健次郎や池野成一郎たちの推薦により、東京帝国大学から理学博士を受ける。論文の題は「日本植物考察（英文）」[22]。同年に発見した新種の笹に、翌年死去する妻の名をとって「スエコザサ」（学名：la ramosa var. suwekoana）と名付けた。