1962年、コーナーの助言によりロンドンに移ったジョーンズは、デパート店員の職を得て妻子を養っていたが、音楽への情熱を捨てきれず、求人誌にバンドメンバー募集広告を載せた。これを見て連絡してきたのが、後にバンドメイトとなるイアン・スチュワートだった。3月、コーナーによるブルース・バンド、ブルース・インコーポレイテッドにギタリストとして参加。このバンドには、やはり後にバンドメイトとなるチャーリー・ワッツも参加していた[5]。

同年4月7日、イーリング・ジャズ・クラブでエルモア・ジェームスの「ダスト・マイ・ブルーム」をスライドギターで演奏する。この時観客として来ていたミック・ジャガーとキース・リチャーズは感銘を受け、ギグの後初めてジョーンズと言葉を交わした。3人は「世界中でこの手の音楽をやっている唯一の仲間」である事を確信し意気投合、バンド結成への運びとなった。6月、ジョーンズが「ローリング・ストーンズ」のバンド名を提案、一部のメンバーから反発されるが、他に代案が示されなかった事から「ローリング・ストーンズ」に決定した[6]。7月より、ストーンズはマーキー・クラブに腰を落ち着けて活動する。またこの頃より、ジョーンズ、ジャガー、リチャーズの3人は、チェルシーのアパートで共同生活を始める[7]。

12月、空席だったベーシストの座にビル・ワイマンが就き、翌1963年には複数のバンドを掛け持ちしていたチャーリー・ワッツの引き抜きに成功。同年6月にストーンズはデッカと契約しデビューを果たす。ジョーンズは紛れもなくローリング・ストーンズの創設者であった。
ローリング・ストーンズとして

ストーンズは当初、イギリスの白人聴衆に「本物の」R&Bを聴かせることを目的としており、ジョーンズはストーンズを紹介する際には必ず「R&Bバンド」を名乗った[8]。当時のジョーンズの様子をジャガーは「奴はバンドの運営と個性、バンドのあるべき姿に取り憑かれてた。俺には異常にすら見えたよ」と表現している[9]。ちなみにジョーンズはジャガーのボーカリストとしての力量に疑問を持っていたようで、デビュー直前には代わりにポール・ボンド（後にマンフレッド・マンに参加するポール・ジョーンズ）を加入させようと考えていた事もある[10]。

だが、体調不良や彼女とのデートのため仕事を欠勤するなど、ジョーンズがリーダーとして相応しくない行動を見せるようになると、バンドの主導権は間もなくジャガーとマネージャーのアンドリュー・ルーグ・オールダムに移った。ジャガー/リチャーズのコンビがオリジナル曲の製作を始め、オールダムがそれを全面的に推し進めるようになると、作曲能力の乏しいジョーンズは次第にバンド内での存在感を失っていく。1964年のアメリカツアーから麻薬がバンド内に流入し始めると、ジョーンズはすぐに完全に薬物依存に陥った。バンドの成功と共にジョーンズの焦燥感は募り、以後薬物の影響力を高めた。

元々マルチプレイヤーだったジョーンズは、ギター以外の楽器で存在感を示すため、1960年代半ばから様々な楽器を導入するようになる。アマチュア時代から演奏していたハーモニカ、サックスやピアノの他、マリンバ、ダルシマー、シタール等の当時のロック音楽では珍しかった楽器を次々と取り入れ、『アフターマス』から『サタニック・マジェスティーズ』までのサイケデリック期のストーンズのサウンドに編曲面で大きな影響を与え、ブルース一辺倒だったバンドの音楽性の幅を広げることに貢献した。また、ビートルズの「イエロー・サブマリン」や「ユー・ノウ・マイ・ネーム」にゲスト参加するなど、他のアーティストとの今でいうコラボレーションも積極的に行った。

1967年5月、大麻所持の容疑で逮捕される[11]。10月、9ヶ月の禁固刑が言い渡されるが[12]、12月の上告裁判で1000ポンドの罰金と3年間の保護観察処分に減刑され、収監は免れた[13]。同年にはジャガーとリチャーズも同じく麻薬所持の容疑で起訴されており、第1審では禁固刑を言い渡されたが、上訴審でミックは12ヶ月の条件付で釈放、キースは無罪となっている[14]。1960年代後半にバンドの運転手兼ボディーガードを務めていたトム・キーロックは、この頃のジョーンズから自殺を考えていたことを告白されたと振り返っている[15]。

ジョーンズも自身の薬物依存を全く省みなかった訳ではなく、逮捕から判決までの間に一度麻薬更生施設に入っている[16]。だが翌1968年5月、大麻所持の現行犯で再び逮捕された[17]。裁判では無実を主張するが、保護観察期間中の逮捕という事もあり厳刑も予想された。9月、罰金刑が下され、またも収監を免れた[18]。ジャガーはプレスに「ブライアンが刑務所に行かずに済んでうれしいよ」と語ったが[19]、この頃にはすでにバンド内でジョーンズを排除しようとする動きが出始めていた。ジャガーによれば、この頃のジョーンズはギターを持つことさえできなくなっていたと言う[20]。脱退直前のジョーンズの様子は、ジャン＝リュック・ゴダール監督の『ワン・プラス・ワン』での「悪魔を憐れむ歌」の録音風景の中で見られるが、以前のように様々な楽器を自由自在・縦横無尽に生き生きと演奏する姿はもはや見られず、虚ろな顔を見せていた。ジャガーは「マジで100%打ち込んでるブライアンを見たのは、『ノー・エクスペクテーションズ』（1968年のアルバム『ベガーズ・バンケット』収録）が最後だった」と振り返っている[21]。

この年の11月に、ジョーンズはサセックス州ハートフィールド近くにあるコッチフォード・ファームを購入した。この家は「クマのプーさん」の作者A・A・ミルンがかつて住んでいた家である[22]。同年12月の「ロックンロール・サーカス」が、ジョーンズにとっての最後の出演となった。
ストーンズ脱退と最期

1969年になると、ジョーンズはもはやスタジオに現れる事すら殆どなくなっていた[23]。6月中旬、ジョーンズは自宅で、自らが声をかけたメンバーと結成した新しいバンドと練習を行う。招かれたのはアレクシス・コーナーの他、ジョン・メイオール、ミッチ・ミッチェルなどであった。ジョーンズはこの時イアン・スチュワートにも声をかけたが、この申し出は丁重に断られている[24]。

6月8日、ジャガーはリチャーズ、ワッツを伴ってジョーンズの自宅を訪ね、ストーンズから脱退するよう勧めた。ジョーンズは一時金10万ポンドの支払いと、ストーンズが存続する限り年2万ポンドを受け取るという提案を呑み、脱退に同意した。