北匈奴はしばしば中国の辺境を荒らしては後漢と南匈奴に討たれたので、次第に衰退していった。章和元年（87年）、東胡の生き残りである鮮卑族が北匈奴の左地（東部）に入って北匈奴を大破させ、優留単于を斬り殺した。これに乗じた後漢・南匈奴連合軍は一気に攻撃を仕掛け、北匈奴をはるか西方の康居の地へと追いやった。空白となったモンゴル高原は鮮卑が奪い取り、それまでの匈奴国民はすべて鮮卑国民と化した。桓帝（在位：146年 - 167年）の時代、檀石槐が大人（たいじん）の位に就くと、弾汗山・啜仇水のほとりに本拠を置き、東や西の部族の大人たちはみな彼のもとに帰服してきた。その兵馬は勢い盛んで、南は後漢の国境地帯で略奪を働き、北では丁令の南下を阻み、東では夫余を撃退させ、西では烏孫に攻撃をかけた。かつての匈奴の版図を手中に収め、東西は1万2000余里、南北は7000余里にわたって、広大な領域を有した。後漢の朝廷はこれを患え、使匈奴中郎将の張奐を送って討伐させたが、勝つことができなかった。そこで今度は使者を送り印綬を授けて、檀石槐を王の位に封じ、和親を通じようとしたが、檀石槐は拒絶して受け取らず、侵入略奪はますます激しくなった。後漢は何度も遠征をかけて檀石槐を討とうとしたが、彼の存命中は敗北を重ねるだけであった。檀石槐が45歳で死ぬと、鮮卑内で後継争いが相次ぎ、檀石槐の帝国は一代にして瓦解した。一時は軻比能が勢力を増したが、檀石槐ほどではなく、青龍3年（235年）に魏の王雄が放った刺客によって軻比能は殺され、他の鮮卑部族は魏の支配下に入ることとなった。[9]
五胡十六国時代

西晋の時代、モンゴル高原では統一政権のない時代が続いており、北部では丁零族が各部に分かれて勢力を広げ、南部では鮮卑族の拓跋部・慕容部・宇文部・段部・禿髪部・乞伏部が分立していた。八王の乱（291年 - 305年）以降、これらを含む中国の周辺異民族は傭兵として雇われ、徐々に中国内部での勢力を増していった。南匈奴の劉淵が起こした永嘉の乱によって西晋が倒されると、華北は異民族の国家が興亡する五胡十六国時代へと突入する。その間のモンゴル高原南部は鮮卑拓跋部の代国が勢力を張り、北部では高車（丁零）が勢力を張ることとなる。[10]
柔然可汗国4世紀後半、柔然可汗国の最大版図。詳細は「柔然」を参照

5世紀に入ると、柔然が勢力を伸ばし、中国北部の北魏（もとの代国）と対立するようになる。402年、その酋長である社崙は周辺諸族を支配下に治め、自ら丘豆伐可汗（在位：402年 - 410年）と号して柔然可汗国を建国した。以後、モンゴル高原に興亡する遊牧帝国は君主号として可汗（カガン）を採用し、可汗を推戴する可汗国を建国していくこととなる。柔然は北魏の太武帝の親征以降、敗戦を重ね、次第に衰弱していったため、北魏や南朝宋に朝貢し、独自の元号を使用したり、城郭を築いたりして中国の文化を取り入れ、国力の改善を図った。しかし一方で北魏に対する侵入略奪も続けていたため、それに反対的であった高車副伏羅部の阿伏至羅兄弟が柔然から離反し（487年）、柔然と対立する。その後、柔然は阿那?（在位：520年 - 552年）の時代に一時的に勢力を盛り返すも、新たに台頭してきた突厥によって衰退させられ、555年に最後の可汗が処刑されて滅亡する。[11]
突厥可汗国7世紀初め、東西突厥可汗国。詳細は「突厥」を参照詳細は「東突厥」を参照詳細は「西突厥」を参照モンゴルの遺物（7世紀）

突厥はもともと柔然に従属する鍛鉄奴隷であったが、その酋長である土門が伊利可汗（イリグ・カガン、在位：552年 - 553年）と号して柔然から独立し、突厥可汗国を建てる。木汗可汗（ムカン・カガン、在位：553年 - 572年）の代には柔然とエフタルを滅ぼして最大版図となり、他鉢可汗（タトパル・カガン、在位：572年 - 581年）の代にはソグド文字で石碑を建て、仏教を導入して伽藍を建てるなど、軍事面・文化面ともに強盛となった。しかし582年、内紛によって突厥が東西に分裂し、東突厥・西突厥が成立する。7世紀に入ると、モンゴル高原を中心とする東突厥は中国の隋に侵入して唐の隋打倒に協力した。隋が滅亡して唐が建国されても東突厥は中国への侵入・略奪をやめなかったが、630年、太宗によって行われた大規模な東突厥征討により、頡利可汗（イリグ・カガン、在位：620年 - 630年）が捕えられ、東突厥は唐の羈縻支配を受ける。この間のモンゴル高原は薛延陀や回?といった鉄勒諸部が勢力を伸ばした。682年、阿史那骨咄禄（アシナ・クテュルク）がイルティリシュ・カガン（在位：682年 - 690年頃）と号して唐の羈縻支配を脱し、独立を果たす（突厥第二可汗国）。阿史那默啜（カプガン・カガン、在位：690年頃 - 716年）の代には最盛期を迎え、毘伽可汗（ビルゲ・カガン、在位：716年 - 734年）の代には固有の文字である突厥文字をつくり、自らの文字で自らの言語を記し、数々の突厥碑文を残した。毘伽可汗の死後、東突厥で内紛が相次いだため、この衰えに乗じた回?（ウイグル）・葛邏禄（カルルク）・抜悉蜜（バシュミル）の3部族によって最後の可汗が殺され、東突厥は滅んだ。[12]
回鶻可汗国8世紀後半、回鶻可汗国の版図。詳細は「回鶻」を参照

回鶻（かいこつ、ウイグル）は初め「回?」と表記され、突厥の最大構成民族「鉄勒」（てつろく、テュルク）の有力部族であった。7世紀 - 8世紀、鉄勒の中でもモンゴル高原の有力な部族は「トクズ・オグズ（九姓鉄勒）」と呼ばれ、回?はその中でも最有力部族であり、東突厥可汗国の衰退に乗じ、742年に周辺の葛邏禄（カルルク）部・抜悉蜜（バシュミル）部とともに東突厥の烏蘇米施可汗（オズミシュ・カガン）を殺害した。744年、回?部の骨力裴羅（クトゥルグ・ボイラ）は骨咄禄毘伽闕可汗（クトゥルグ・ビルゲ・キョル・カガン、在位：744年 - 747年）と号し、745年には最後の東突厥可汗を殺して東突厥を滅ぼし、モンゴル高原の覇者となった。755年、唐で安史の乱が起こると、皇帝の粛宗は回?の葛勒可汗（在位：747年 - 759年）に援軍を要請し、757年11月までに唐・回?連合軍で反乱軍を撃退した。つづく牟羽可汗（在位：759年 - 779年）の代でも反乱軍の残党を駆逐し、回?の協力があって8年に及ぶ安史の乱を終息させることができた。779年、ソグド人官僚に促されて唐に攻め込もうとした牟羽可汗を宰相の頓莫賀達干（トン・バガ・タルカン）が殺害し、回?可汗国内のソグド人官僚、マニ教が弾圧されるという政変が起こった。これによって頓莫賀達干は合骨咄禄毘伽可汗（アルプ・クテュルク・ビルゲ・カガン、在位：779年 - 789年）と号し、唐との関係を強固なものにすると同時に、国号を「回?」から「回鶻」に改称した。その後もしばらく唐とは良好な関係を保ち、790年代における吐蕃との戦争も両国が連合して対処したが、保義可汗（在位：808年 - 821年）の代において関係がこじれ、一時的に緊張状態となった。その後すぐに唐との関係が修復したものの、回鶻可汗国内で後継争いが相次ぎ、加えて異常気象によって多くの家畜が死んだため国力が衰退し、北の黠戛斯（キルギス）の侵入を招いて回鶻可汗国は崩壊した。[13]
九姓タタル国詳細は「九姓タタル」を参照