1368年初頭に南京で明を建国した朱元璋は、皇帝に即位するとすぐに徐達を司令官として、既に中国の支配をほとんど喪失していた元に対する北伐軍を派遣した。元のトゴン・テムルは大都からモンゴル高原にある夏の都上都へと逃れたが、翌1369年には常遇春に敗れてさらに応昌府に逃れた。
トゴン・テムル・ハーン（廟号は恵宗）が1370年に死ぬと、明はトゴン・テムルに「天意に順じ明に帝位を譲った」という意味の順帝という諡号を贈り、トゴン・テムルに代わってハーンに即位した昭宗アユルシリダラを「故元太子」と呼んで元主と認めなかった。しかし、明の主張の一方で、元（北元）は依然としてモンゴル高原の遊牧勢力の君主として強大な軍事力を持っており、1372年には明がモンゴル高原に送った北伐軍を撃退した。
この時点で元（北元）の勢力は中国の北方から甘粛、雲南まで維持しており、江南と華北をようやく制覇したに過ぎない明を取り囲むようにして南北に対峙していた。とくに東北地区（満州）には数十万の大軍を擁する元（北元）の大尉であるジャライル部のナガチュの勢力が健在であり、明や高麗は北辺をナガチュの大軍にしばしば脅かされた。高麗ではナガチュの軍事的脅威を受けて明と通好する一方で元（北元）とも通好し、その正朔を奉じることもあったほどである。
1378年にアユルシリダラが死んで天元帝トクズ・テムルが即位する頃から元（北元）は衰えを見せ、明が満州を制圧してモンゴル高原東部に勢力を伸ばすことを許した。1387年、元（北元）のナガチュは明軍の大攻勢を受けてついに明に降り、ナガチュ救援のために高原東部のホロンボイル地方に進出していたトグス・テムル・ハーンも翌年初頭に明の将軍藍玉の奇襲を受けて敗れた。トグス・テムルは敗走の途上でクビライとハーン位を争って敗れたアリクブケの子孫にあたるイェスデルの手によって殺害され、クビライの王統は断絶する。
イェスデルは、モンゴル高原の西北部に割拠するオイラト部族の支持を受けてハーンに即位するが1391年に死去した。これ以降、旧元朝のモンゴル諸部族は、四十モンゴル部（ドチン・モンゴル）と四オイラト部（ドルベン・オイラト）と呼ばれる2つの遊牧部族連合に分かれて、チンギス・ハーンの末裔の中から誰をハーンに擁立するかをめぐって争うようになった。モンゴル高原の西部に広がった四オイラトは、モンゴル帝国以前からモンゴル高原東北部に存在した由緒ある部族であるオイラトの長を盟主とし、親「アリクブケ家」の諸部族からなっていたのに対し、東部の四十モンゴルは親「クビライ家」の性格を有しており、チンギス裔のハーンを盟主とした。明は、四十モンゴルを、彼ら自身はモンゴルと自称するにもかかわらず、韃靼（タタール）と呼んだ。
やがてモンゴルのアスト部族長アルクタイが有力となり自派のハーンを立てるが、1410年に明の永楽帝による遠征軍に敗れ、かわってオイラト部族長マフムードが有力となった。永楽帝は次にオイラトに対する親征を行い、1414年にマフムードを破ったが、これにより再びアルクタイが勢力を盛り返した。さらに3度敢行され合計5度に渡った永楽帝の北伐と、アルクタイとマフムードの争いによって、15世紀前半のモンゴル高原は大いに混乱し、頻繁にハーンが取り替えられた。
1434年に至ってマフムードの子トゴンはアルクタイを滅ぼし、甘粛にいたチンギス・ハーンの子孫トクトア・ブハをハーンに立てた。トゴンはさらに敵対者を滅ぼし、モンゴル諸部族を屈服させるが1439年に死に、子のエセンがオイラトを継承した。エセンは明の正統帝を捕虜とし（土木の変）、西ではトルキスタンのモグーリスタン・ハン国やウズベクのアブールハイル・ハンなどのイスラム化したモンゴル系国家に戦勝してオイラトの覇権の最盛期を築いたが、1453年に「大元天聖大可汗」と称し自らハーンに即位したことをきっかけに人心を失い、1454年に内乱により殺された。エセンの敗死によりオイラトの覇権は崩壊したが、エセンは自らハーンとなる前にトクトア・ブハを始めチンギス・ハーンの血を引くものを皆殺しにしていたため、モンゴルの側も混乱が続いた。
1487年に至って、母がオイラトの出身であったためエセンの殺害を免れたバヤン・モンケの子で、当時存命していた唯一のクビライ裔の皇子であったバト・モンケがハーンに即位した。バト・モンケはダヤン・ハーンと称したが、この尊称ダヤンは「大元」の音写であるとされる。ダヤン・ハーンはオイラトを追ってモンゴル高原のほとんど全域に勢力を拡大すると、11人もうけた男子をモンゴルの諸部族の長に婿入りさせて各部族の首長につけた。ダヤン・ハーンとその直系の子孫はチャハル部を支配し、こうしてチャハル部の長が大ハーンとして、親族にあたる全モンゴルを統括する体制が築かれた。清代から現代に続くモンゴル諸部族の分布は、ダヤン・ハーンによるモンゴルの再編成をほぼ踏襲している。
1524年にダヤン・ハーンが死ぬと、ハーン位を継承すべき長男トロ・ボラトは既に死んでおり、トロ・ボラトの子でダヤン・ハーンによって継承者に指名されていたボディ・アラクが年少であった。このため、ハーン位はダヤン・ハーンの三男でオルドス部とトメト部を支配するバルス・ボラトが一時的にハーンに即位し、チャハル部によるモンゴルの統一政権は早くも揺らいだ。1542年には、バルス・ボラトの長男でオルドス部を継承していたグンビリクが死ぬと、グンビリクの弟でトメト部を継承していたアルタンが代わって有力となった。チャハルのボディ・アラク・ハーンは、アルタンを西部（右翼）のモンゴル諸部族の指導者と認めてトシェート・ハーン（トシェートは「補佐」の意）の称号を与え、モンゴルには複数のハーンが立つようになった。
1547年、チャハル部のボディ・アラク・ハーンが死ぬと、その子ダライスン・ハーンは、トメト部のアルタンの圧迫を避けて東方に移住し、アルタン・ハーンが大ハーンに代わってモンゴル高原全体の事実上の支配権を握った。
アルタンは北ではオイラトと戦ってモンゴル高原西部からジュンガリアに追いやり、南では明に連年遠征して略奪を繰り返した。また、ダライ・ラマ3世に帰依してチベット仏教のゲルク派に入信し、内モンゴルに支配下に入った漢民族の定住農民を集めて開いた都市フフホトに寺院を建立、モンゴルが仏教化するきっかけをつくった。
アルタンの死後、アルタンが一代で築き上げた勢力と財産をめぐってトメト部では内紛が起こり、ダヤン・ハーンによるモンゴルの一体化は無実化していった。漠北（外モンゴル）ではハルハ部がオイラトと戦って服属させ、現在のモンゴル国の領土のほとんどを支配下に収めるまでに成長していた。
トメトを避けて大興安嶺山脈の東に移住したチャハルでは、1603年にリンダン・ハーンが即位した。