尾張国愛知郡中村（現在の名古屋市中村区）に百姓と伝えられる「木下弥右衛門・なか」の子として生まれた。生年については、従来は天文5年（1536年）といわれていたが、最近では天文6年（1537年）説が有力となっている。弥右衛門の素性には諸説がある（注：出身・家系の項目を参照）。誕生日は1月1日、幼名は日吉丸となっているが、これは『絵本太閤記』の創作で、実際の生誕日は『天正記』や家臣伊藤秀盛の願文の記載から天文6年2月6日とする説が有力である。また血液型は遺品等の体液等を調べた結果、O型である事が分かっている[要出典]。
広く流布している説として、父・木下弥右衛門の戦死後、母・なか（のちの大政所）は竹阿弥と再婚したが、秀吉は竹阿弥と折り合い悪く、いつも虐待されており、家を出て侍になるために駿河国に行ったと言われる。『太閤素性記』によると7歳で実父弥右衛門と死別し、8歳で光明寺に入るがすぐに飛び出し、15歳の時亡父の遺産の一部をもらい家を出て放浪したとなっている。しかし、『太閤記』では竹阿弥を秀吉の実父としており、木下姓も父から継いだ姓かどうか疑問視されていて、妻ねねの母方の姓とする説もある。秀吉の出自については、大工・鍛冶等の技術者集団説（小和田哲男）、行商人説（石井進）など非農業民とする説もあり、謎が多くほとんど不明と言える。
はじめ木下藤吉郎（きのしたとうきちろう）と名乗り[3]、今川氏の直臣飯尾氏の配下で、遠江国長上郡頭陀寺荘（現在の浜松市南区頭陀寺町）にあった引馬城支城の頭陀寺城主・松下之綱（松下加兵衛）に仕えた。藤吉郎はある程度目をかけられたようだが、まもなく退転した[4]。
その後の之綱は、今川氏の凋落の後は徳川家康に仕えるも、天正11年（1583年）に秀吉より丹波国と河内国内に1,600石を与えられ、天正18年（1590年）には1万6,000石と頭陀寺城に近い遠江久野城を与えられている。
天文23年（1554年）頃から織田信長に小者として仕える。仕官のいきさつについては、信長に直訴した（太閤記）、信長に仕えていた友人の紹介（太閤素性記）、信長の側室吉乃の紹介（武功夜話）など諸説あり、詳細は不明である。
清洲城の普請奉行、台所奉行などを率先して引き受けて大きな成果をあげた[5]。そうして信長の歓心を買うことに成功し、次第に織田家中で頭角をあらわしていった。この頃、その風貌によって信長から「猿」「禿げ鼠」と呼ばれていたらしい（注：容姿の項目を参照）。永禄4年（1561年）[6]、浅野長勝の養女ねねと結婚する。
美濃国の斎藤龍興との戦いのなかで、墨俣一夜城建設に功績を上げた話が有名だが、『武功夜話』などを典拠とするこのエピソードは当時の史料に関係する記述がなく江戸時代の創作であるとする説が強い。このころ斉藤氏の影響下の美濃より竹中重治（竹中半兵衛）、川並衆の蜂須賀小六、前野長康らを配下に組み入れている。
永禄11年（1568年）9月、近江箕作城攻略戦で活躍したことが『信長記』に記されている（観音寺城の戦い）。同年、信長の上洛に際して明智光秀、丹羽長秀らとともに京都の政務を任される。当時の文書に秀吉の名乗りが見られる（「秀吉」名の最古の記録は永禄3年8月付の書状）。
元亀元年（1570年）、越前国の朝倉義景討伐に従軍。順調に侵攻を進めていくが、金ヶ崎付近を進軍中に突然盟友であった北近江の浅井長政が裏切り織田軍を背後から急襲。浅井と朝倉の挟み撃ちという絶体絶命の危機であったが、池田勝正や明智光秀と共に秀吉はしんがりを務め功績をあげた（金ヶ崎の退き口）。その後も浅井・朝倉との戦いに功績をあげる。
天正元年（1573年）、浅井氏が滅亡すると、その旧領北近江三郡に封ぜられて、今浜の地を「長浜」と改め、長浜城の城主となる。この頃、家内で有力だった丹羽長秀と柴田勝家から一字ずつをもらい受け、木下姓を羽柴姓に改めている（羽柴秀吉）。近江より人材発掘に励み、旧浅井家臣団や、石田三成などの有望な若者を積極的に登用した。
天正4年（1576年）、越後国の上杉謙信と対峙している北陸方面軍団長・柴田勝家への救援を信長に命じられるが、秀吉は作戦をめぐって勝家と仲たがいをし、無断で帰還してしまった。その後、勝家らは上杉謙信に敗れている（手取川の戦い）。信長は秀吉の行動に激怒したが許され、秀吉は織田信忠の指揮下で松永久秀を滅ぼし功績を挙げる。
その後、信長に中国地方攻略を命ぜられ播磨国に進軍し、かつての守護赤松氏の勢力である赤松則房、別所長治、小寺政職らを従える。さらに小寺政織の家臣の小寺孝高（黒田孝高）より姫路城を譲り受け、ここを中国攻めの拠点とする。一部の勢力は秀吉に従わなかったが上月城の戦い（第一次）でこれを滅ぼす。