天文23年（1554年）頃から織田信長に小者として仕える。[5]清洲城の普請奉行、台所奉行などを率先して引き受けて大きな成果をあげた[6]。そうして信長の歓心を買うことに成功し、次第に織田家中で頭角をあらわしていった。この頃、その風貌によって信長から「猿」「禿げ鼠」と呼ばれていたらしい（注：容姿の項目を参照）。永禄4年（1561年）[7]、浅野長勝の養女ねねと結婚する。
美濃国の斎藤龍興との戦いのなかで、墨俣一夜城建設に功績を上げた話が有名だが、『武功夜話』などを典拠とするこのエピソードは当時の史料に関係する記述がなく江戸時代の創作であるとする説が強い。このころ斉藤氏の影響下の美濃より竹中重治（竹中半兵衛）、川並衆の蜂須賀小六、前野長康らを配下に組み入れている。
永禄11年（1568年）9月、近江箕作城攻略戦で活躍したことが『信長記』に記されている（観音寺城の戦い）。同年、信長の上洛に際して明智光秀、丹羽長秀らとともに京都の政務を任される。当時の文書に秀吉の名乗りが見られる（「秀吉」名の最古の記録は永禄3年8月付の書状）。
元亀元年（1570年）、越前国の朝倉義景討伐に従軍。順調に侵攻を進めていくが、金ヶ崎付近を進軍中に突然盟友であった北近江の浅井長政が裏切り織田軍を背後から急襲。浅井と朝倉の挟み撃ちという絶体絶命の危機であったが、池田勝正や明智光秀と共に秀吉はしんがりを務め功績をあげた（金ヶ崎の退き口）。その後も浅井・朝倉との戦いに功績をあげる。
天正元年（1573年）、浅井氏が滅亡すると、その旧領北近江三郡に封ぜられて、今浜の地を「長浜」と改め、長浜城の城主となる。この頃、家内で有力だった丹羽長秀と柴田勝家から一字ずつをもらい受け、木下姓を羽柴姓に改めている（羽柴秀吉）。近江より人材発掘に励み、旧浅井家臣団や、石田三成などの有望な若者を積極的に登用した。
天正4年（1576年）、越後国の上杉謙信と対峙している北陸方面軍団長・柴田勝家への救援を信長に命じられるが、秀吉は作戦をめぐって勝家と仲たがいをし、無断で帰還してしまった。その後、勝家らは上杉謙信に敗れている（手取川の戦い）。信長は秀吉の行動に激怒したが許され、秀吉は織田信忠の指揮下で松永久秀を滅ぼし功績を挙げる。
その後、信長に中国地方攻略を命ぜられ播磨国に進軍し、かつての守護赤松氏の勢力である赤松則房、別所長治、小寺政職らを従える。さらに小寺政織の家臣の小寺孝高（黒田孝高）より姫路城を譲り受け、ここを中国攻めの拠点とする。一部の勢力は秀吉に従わなかったが上月城の戦い（第一次）でこれを滅ぼす。
天正7年（1579年）には、上月城を巡る毛利氏との攻防（上月城の戦い）の末、備前国・美作国の大名宇喜多直家を服属させ、毛利氏との争いを有利にすすめるものの、摂津国の荒木村重が反旗を翻したことにより、秀吉の中国経略は一時中断を余儀なくされる。
天正8年（1580年）には織田家に反旗を翻した播磨三木城主・別所長治を攻撃、途上において竹中半兵衛や古田重則といった有力家臣を失うものの、2年に渡る兵糧攻めの末、降した（三木合戦）。同年、但馬国の山名堯熙が篭もる有子山城も攻め落とし、但馬国を織田氏の勢力圏においた。
天正9年（1581年）には因幡山名家の家臣団が、山名豊国を追放した上で毛利一族の吉川経家を立てて鳥取城にて反旗を翻したが、秀吉は鳥取周辺の兵糧を買い占めた上で兵糧攻めを行い、これを落城させた（鳥取城の戦い）。その後も中国西地方一帯を支配する毛利輝元との戦いは続いた。同年、岩屋城を攻略して淡路国を支配下に置いた。
天正10年（1582年）には備中国に侵攻し、毛利方の清水宗治が守る高松城を水攻めに追い込んだ（高松城の水攻め）。このとき、毛利輝元・吉川元春・小早川隆景らを大将とする毛利軍と対峙し、信長に援軍を要請している。
このように中国攻めでは、三木の干殺し・鳥取城の飢え殺し・高松城の水攻めなど、「城攻めの名手秀吉」の本領を存分に発揮している。
天正10年（1582年）6月2日、主君・織田信長が京都・本能寺において明智光秀の謀反により殺された（本能寺の変）。このとき、備中高松城を水攻めにしていた秀吉は事件を知ると、すぐさま高松城城主・清水宗治の切腹を条件にして毛利輝元と講和し、京都に軍を返した（中国大返し）。