ピピン3世の子のうち、カール、カールマン、ギゼラの3人が成人し、男子であるカールとカールマンが後継者とされた。すでに751年にはピピン3世は主君だったメロヴィング朝のキルデリク3世から王位を簒奪してフランク国王に即位しており[13]、また754年にローマ教皇ステファヌス2世がサン＝ドニ大聖堂まで赴いて塗油した際、ピピンは後継者であるカールとカールマンへの塗油も望み、これが実行されていた[8]。768年にピピンが死去すると、フランクの相続法に従い王国は二分され、カールはアウストラシアとネウストリアを、カールマンはブルグント、プロヴァンス、ラングドックを手に入れたが、両者の間は不仲であったとされる[8]。771年にカールマンが死去するとカールマンの妻であるゲルベルガは幼子とともにランゴバルド王国へと亡命し、カールはフランク全域の王となった[14]。
外征と西ヨーロッパ世界の政治的統一16世紀発行の『ローランの歌』におけるカールの肖像

カールの生涯の大半は征服行で占められていた。46年間の治世のあいだに53回もの軍事遠征をおこなっている。

父ピピン3世の死後、イタリアのランゴバルド王国の国王デシデリウスは王女をカールの妃としてフランク王国からの脅威を取り除き、ローマ教会への影響力を強めて勢力挽回を図ろうとした[注 2]。770年、カールは王女と結婚したが、デシデリウスがローマへの攻撃を開始し、773年にローマ教皇ハドリアヌス1世がカールに援軍を要請するに至って、カールは義父デシデリウスと対決することに方針を定め、妃を追い返してアルプス山脈を越えイタリアに攻め込んだ（ランゴバルド戦役（de:Langobardenfeldzug））。