1954年（昭和29年）、貸本漫画会社、大阪東光堂の注文で貸本漫画を描いていた横山は、出版社の社長に連れられ手塚の下に赴き、横山が描いた時代物『魔剣烈剣』に目を通した手塚は「売れる漫画家」と判断した。横山は、『魔剣烈剣』の読者からの好評に自信を得て漫画家を志すようになり、この作品におけるスピード感と娯楽性は今後の漫画作りの姿勢の基本になったと言う。

1955年（昭和30年）、貸し本向け単行本『音無しの剣』で漫画家デビュー[1]。2作目の『白百合物語』が認められ、光文社の『少女』で初の雑誌連載『白ゆり行進曲』が開始される[4]。手塚はそのデビュー当時を「かれほど『彗星のように』という形容のあてはまる男はいない」と評している[5]。この頃に原作手塚治虫、作画横山光輝で『黄金都市』、『ターザンの洞窟』、『海流発電』、『仮面の冒険児』で4作発表している[注釈 1]。横山はトキワ荘の住人ではなかったが、手塚の「鉄腕アトム」のアシスタントとして活動したこともあった。

1956年（昭和31年）、映画会社を退職した後、光文社『少年』に発表した『鉄人28号』が人気を博し作家的地位を確立。『鉄人28号』は『少年』誌上で手塚の『鉄腕アトム』と人気を二分するヒット作となった。この年より上京し、以降映画会社勤務時に多くの映画を見た経験を生かして、名作を次々と生み出した。この時、鉄人28号のヒットにより本気で漫画家になろうと考えたと語っている。

1964年（昭和39年）には、神田三崎町に株式会社光プロダクションを設立する[1]。

『魔法使いサリー』などの例外を除けば連続物語（ストーリー漫画）を多く描き、笑いの要素のほとんどない、ある意味でハードボイルドな世界の構築を得意とした。展開も絵柄も奇をてらわない正攻法でわかりやすく、後年歴史もので名を成す下地となっている。

アニメ化された作品も多く、『鉄人28号』で巨大ロボットアニメ、『魔法使いサリー』で魔法少女アニメの歴史が始まったと言われ、分野の先駆け的存在となった。

1991年（平成3年）、『三国志』により第20回日本漫画家協会賞優秀賞を受賞[6]。受賞作『三国志』は、1971年（昭和46年）から1986年（昭和61年）までの15年の時間を要し、全60巻（文庫版は全30巻）というスケールで劉備登場から蜀漢の滅亡までが描かれた大作である。『水滸伝』『三国志』以降、横山は日本や中国の歴史漫画中心に力を注ぐことになる。中には毛沢東の長征を描いた『長征』のような近代中国史を描いた作品もある。

1999年（平成11年）には大病を患い療養。
晩年

2004年（平成16年）に日本漫画家協会賞文部科学大臣賞を受賞した。同年4月7日『鉄人28号』（第4作）が放送開始。4月11日に東京都古書籍協同組合が組合員を対象として14?15日に開く全古書連大市会にて横山の未発表作品が入札にかけられると報道され、これに対し「売りに出されるのは不愉快」と発言していた[7]。

それから間もない同年4月15日朝方、東京都豊島区千早の自宅で火事に見舞われ、全身火傷を負って意識不明の重体となり、同日22時に日本大学医学部附属板橋病院にて死去した。69歳だった。出火原因は寝煙草の不始末で、約3年前に足を骨折した後遺症のため逃げ遅れたという[8]。遺作は2001年7月に完結した『殷周伝説』。次作については、兵法書『孫子』で著名な兵法家・孫武の物語を構想していたと編集部が明かしている。
没後

遺産は長男の横山輝利（てるとし、光プロダクション代表取締役の一人）と長女が相続したという。