祖父の源為義と伯父の源義朝が対立的関係になった時、父為義の命を受けて本拠地の京都から関東に下った源義賢の次男として武蔵国の大蔵館(現在の埼玉県比企郡嵐山町)に生まれる。関東での源為義派の父義賢と、伯父の義朝の対立の過程で、父の義賢が甥の源義平に討たれた後、幼少の義仲は 畠山重能、斎藤実盛らの援助で信濃(長野県)に逃れ、木曾谷の豪族、中原兼遠の庇護下に育ち、通称を「木曾次郎」と名乗る。
諏訪大社に伝わる伝承では一時期、下社の宮司である金刺盛澄に預けられて修行したといわれている。後に手塚光盛などの金刺一族が挙兵当初から中原一族と並ぶ義仲の腹心となっている。義仲館の銅像。巴御前と並ぶ
治承4年(1180年)、平清盛と対立していた後白河法皇の皇子である以仁王(高倉宮・三条宮)が全国に令旨を発し、叔父新宮行家が全国で挙兵を呼びかける。摂津源氏の源頼政が養子にしていた義仲の兄の八条院蔵人源仲家は、5月の以仁王挙兵に参戦し、頼政と共に宇治で討死している。同年9月7日、義仲は兵を率いて北信の源氏方救援に向かい(市原合戦)、そのまま父の旧領である多胡郡のある上野へと向かう。2ヵ月後に信濃国に戻り、佐久郡依田城にて挙兵する(上野から信濃に戻ったのは、頼朝と衝突することを避けるためと言われている)。
翌年の治承5年(1181年)6月、小県郡の白鳥河原に木曾衆・佐久衆・上州衆など3千騎を集結、越後から攻め込んできた城助職を千曲川横田河原の戦いで破り、そのまま越後から北陸道へと進んだ。寿永元年(1182年)、北陸では逃れてきた以仁王の遺児北陸宮を擁護し、以仁王挙兵を継承する立場を明示し、また、頼朝と結んで南信濃に進出した武田信光ら甲斐源氏との衝突を避けるために頼朝・信光の勢力が浸透していない北陸に勢力を広める。
寿永2年(1183年)2月、頼朝と敵対し敗れた志田義広と、頼朝から追い払われた行家が義仲を頼って身を寄せ、この2人を庇護した事で頼朝と義仲の関係は悪化する。また『平家物語』『源平盛衰記』では、武田信光が娘を義仲の嫡男義高に嫁がせようとして断られた腹いせに、義仲が平氏と手を結んで頼朝を討とうとしていると讒言したとしている。両者の武力衝突寸前に和議が成立し、3月に嫡子義高を人質として鎌倉に送る事で頼朝との対立は一応の決着がつく。
5月、越中国砺波山の倶利伽羅峠の戦い(富山県小矢部市-石川県河北郡津幡町)で10万とも言われる平維盛率いる平氏の大軍を破り、勝ちに乗った義仲軍は沿道の武士たちを糾合し、怒濤の勢いで京都を目指して進軍する。7月22日に義仲が比叡山に入ったという噂が広まり、25日に平氏は安徳天皇とその異母弟守貞親王(皇太子に擬された)を擁して都を落ち、西国へ逃れた。なお平家は後白河法皇も伴うつもりであったが、危機を察した法皇は平家に見つからぬよう比叡山に登って身を隠し、平家の都落ちをやりすごした。
7月27日、後白河法皇は義仲の軍勢に属する山本義経の子、錦部冠者義高に守護されて都に戻る。『平家物語』では、「この20余年見られなかった源氏の白旗が、今日はじめて都に入る」とその感慨を書いている。義仲は翌日28日に入京、行家と共に後白河法皇の御所に参上し、平氏追討を命じられる。2人は相並んで前後せず、序列を争っていた。法皇は勲功の第一を頼朝、第二が義仲、第三が行家として、あくまで義仲を頼朝の代官と位置づけ、頼朝に上洛を促す使者を送って義仲を牽制した。8月6日に行われた除目では平家一門の60余名が官職から追放され、11日に後白河法皇より義仲は従五位下左馬頭・越後守、行家は従五位下備後守に任ぜられる。『平家物語』ではここで義仲が朝日の将軍という称号を得て、義仲と行家が任国を嫌ったので義仲が源氏総領家にゆかりのある伊予守に、行家が備前守に移されたとしているが、義仲と差があるとして不満を示したのは行家のみで、義仲が忌諱した記録は見られない(『玉葉』8月11日条)。
8月、後白河法皇は平家に連れて行かれた安徳天皇にかわる新帝即位を考えるようになった。宮中で考えられていた皇位継承候補は京都に残っている高倉天皇の二人の皇子、三之宮(のちの惟明親王)か四之宮(のちの後鳥羽天皇)のいずれかであった。ところがこの際に義仲は今度の大功は自らが推戴してきた北陸宮の力であり、また平家の悪政がなければ以仁王が即位していたはずなので以仁王の系統こそが正統な皇統として、北陸宮を即位させるよう比叡山の俊堯僧正を介して朝廷に執拗に申し立てた。しかし天皇の皇子が二人もいるのに、それを無視して王の子にすぎない北陸宮を即位させるなど、高倉天皇系の皇統を否定するに等しく、皇統の永続性を大切にする朝廷が受け入れるはずもなかった。そもそもそれ以前に、一介の武士が皇位継承問題に介入してくること自体後白河法皇からすれば不快に感じたであろう。朝廷では義仲を制するため御占が数度行なわれた結果、8月20日に四之宮(後鳥羽天皇)を即位させた。兄であるはずの三之宮が退けられたのは外祖父平義範が既に亡くなっており、後ろ盾がなくなっていた事が最大の原因と考えられる。
いずれにしてもこの義仲の北陸宮推挙の一件は、伝統や格式を重んじる後白河法皇や公卿達から、宮中の政治・文化・歴史への知識や教養がまるでない「粗野な人物」として疎まれるきっかけとなるに十分だった。山村に育った義仲は、平家一門や子供時代を京都で過ごした頼朝とは違い、そうしたものに触れる機会が存在しなかったのである。
また義仲は京都の治安回復にも失敗したとも言われる。連年の飢饉で食糧事情が極端に悪化していた京都に、遠征で疲れ切った武士達の大軍が居座ったために遠征軍による都や周辺での略奪行為が横行する。義仲は上洛してすぐに、主立った武士達に都を守護する配置を決めて警備に当たらせたが、元々義仲の軍勢は諸国で蜂起した武士たちの寄り合い所帯であり、その中で義仲がもっとも有力だっただけで全体の統制が出来る状態になかった。