1982年に弟子入りしたそのまんま東（現：東国原英夫）が一番弟子であり、その後、大森うたえもん・松尾伴内・ダンカン・柳ユーレイ（現：柳憂怜）と弟子が増え、ツービートの活動が縮小するにつれ、相棒ビートきよし(現在はきよしもオフィス北野の所属となっている)の代わりのような存在として何かとひとまとめで団体芸をやりたいとして、1983年3月から『アイドルパンチ』（テレビ朝日）などに出演させたのをきっかけに[15]、同年に正式に結成[1][16]。

なお、順番としては東に続くのは当時ツーツーレロレロを組んでいた大森だが、結成時は大森は高田文夫の世話役を命じられていたため、コンビ結成の約1年後に軍団入りしている[17]。弟子を増やす起点となったのは1982年1月28日深夜『ビートたけしのオールナイトニッポン』終わりに、ファンとして出待ちをしていた松尾伴内を見たたけしが「あいつが駆けつけてきたら、お前盾になれ、あいつは刺すぞ」と東に声を掛け、駆けてきた松尾がいきなり土下座をしたことである[17]。松尾はなぜか東に向いて土下座しており、間違えましたと、改めてたけしに弟子入り志願した。この時は土下座をしなかった。その後たけしは「野球をやりたい」と口にして、松尾をボーヤとして引き入れた[17]。これをきっかけに弟子入り志願者を受け入れるようになり、カージナルス（タカ、枝豆）が店員をしていたスナックポプラや草野球つながりで徐々にメンバーを増やしていく。

たけし軍団の名称は『アイドルパンチ』に出演した際にディレクターだった森昌行に付けられたもので、当初は「たけしアーミー」と書かれたトレーナーを着ていた[18]。『たけしのお笑いサドンデス』がスタートした1983年10月頃よりたけし軍団の名前で呼ばれ始めた。

このときの8人(そのまんま東、大森うたえもん、松尾伴内、ダンカン 、柳ユーレイ、ガダルカナル・タカ、ラッシャー板前、つまみ枝豆)が元祖たけし軍団である[19]。結成当時の写真は、軍団員が裸で組体操(パンツは着用)「ピラミッド」をしているものがある[20]。

軍団結成の目的は、若い衆の面倒をみるのをやりたかったということと、漫才自体が限界になったので団体で芸をやりたかったとたけし本人は語っている[21]。別の機会には、草野球のチームを組みたかっただけとも語っており[22]、当初は8人体制を取っていた（後にグレート義太夫と井手らっきょが加入して10人体制に移行）。実際にガダルカナル・タカや井手らっきょらは草野球の助っ人から軍団入りしている。

1984年2月からたけし司会の『スーパージョッキー』（日本テレビ）の企画「THEガンバルマン」に出演し[16]、肉体的・精神的苦痛を伴うさまざまなゲームに身体を張って挑む姿が笑いを呼び人気を得た[23]。「身体を張って笑いを取る」路線は、後の『お笑いウルトラクイズ』（日本テレビ）まで一貫している(ただし、亜仁丸レスリーや、ゾマホン・ルフィンのように、文化人的な軍団員は体を張って笑いを取る芸には参加しない)。なお、当時の軍団員はほとんどが20代だったこともあり、「Duet」などの雑誌に取り上げられ、追っかけが存在するなど一部でアイドル的な人気を持っていた[24]。これを受けて軍団内でユニットを設けて1986年には歌手デビューもしている(たけし軍団#軍団内ユニットを参照)。1980年代半ばになっても弟子志願者は絶えず、1985年頃にはたけし軍団の二軍として「たけし軍団セピア」、1986年には三軍として浅草キッドブラザースが誕生。

たけしの番組でのスーパーサブ的な役割を担っていたたけし軍団だったが、1986年1月には冠番組『たけし軍団!ヒット&ビート』（テレビ朝日）を持つに至り、また同年5月からスタートした『痛快なりゆき番組 風雲!たけし城』（TBS）の出演でたけし軍団の人気は最盛期を迎える。しかし、同年の12月のたけしの「フライデー襲撃事件」にたけし軍団のうち11人が参加したことにより『ヒット&ビート』は打ち切られる。

フライデー襲撃事件では、たけし軍団は1987年3月に不起訴処分が決定[25]。謹慎が解けて以降は、たけし軍団としての活躍の場は再びたけしの番組のスーパーサブ的存在へと戻り、日本テレビ『お笑いウルトラクイズ』、『スーパージョッキー』、フジテレビ深夜のたけし枠の番組（『北野ファンクラブ』?『たけしのコマ大数学科』）、テレビ朝日『朝までたけし軍団』シリーズ、TBS『ビートたけしの絶対見ちゃいけないTV』等に出演。ガダルカナル・タカが橋本志穂と結婚した際には『たけし軍団のハワイ大家族旅行』(TBS、1994年1月3日)という特番が放送された。

北野武が監督した柳ユーレイ主演の映画『3-4X10月』は、当初はたけし軍団解散記念映画として企画された。しかし映画公開の1990年時点ではまだメンバーが自立できないという判断によりこのときは解散が見送られた[26]。

1999年3月に『スーパーJOCKEY』が終了して、たけしと軍団が毎週のように顔を合わせる仕事が終わり、加えて軍団のメンバーが所帯を持つようになって、たけしが頻繁に誘うこともなくなった[27]。

2000年代以降はたけしが、教養番組など、堅めの番組を多く持つようになり、たけし軍団のメンバーの方向性もバラバラとなって軍団として集まって出演する機会が年毎に減っていった。そんな中、たけしが軍団という呼び方もやめて、たけし軍団も卒業にしようと言い出し、2004年10月に『朝までたけし軍団』の番組中でたけし軍団の解散が発表された[28]。

実際に2005年1月に『朝までたけし軍団』が放送された際は『朝まで元たけし軍団』という番組名で、解散した「元たけし軍団」の番組として放送された[29]。