舞鶴の地に人が住み始めたのは約1万年前だと言われている。その後、弥生時代になると由良川流域など広範囲で稲作が営まれた。古代に国造が分立した時代には、舞鶴は丹国の領土に入っていた。ヤマト王権が勢力圏を拡大すると、奈良時代に丹国は分割され、舞鶴は丹後国加佐郡に入れられた。
南北朝時代には、醍醐寺の荘園が置かれた。室町幕府の成立によって一色満範が丹後国守護職となり舞鶴を含む加佐郡も一色家の統治下に置かれた。以後、丹後国は一色家の領国として代々続く。室町時代後期の応仁の乱において西軍に属した一色氏は没落し、細川氏や若狭武田氏の攻撃をたびたび受けるようになり、家臣の下剋上もあって国内は混乱する。
戦国時代末期の1575年、織田信長から丹波・丹後進攻の命を受けた家臣の明智光秀と細川藤孝らに侵攻され、旧守護職の一色義道は殺され、一色氏は完全に没落した。信長の命により丹後国は細川藤孝の領地となり、舞鶴が本拠地となった。（明智光秀は丹波国を与えられ、亀山（亀岡）を本拠地とした）。細川家の手によって舞鶴は開発され、本能寺の変後も細川家の所領は安堵され、そのまま統治した。
1600年（慶長5年）に勃発した関ヶ原の戦いで、細川家は徳川家康率いる東軍に与した。細川藤孝は当時は小城であった宮津城から、大規模な水堀もあり、守りやすい本城の田辺城（舞鶴城）に移り籠城（田辺城の戦い）。西軍の派遣部隊と対戦したが、後陽成天皇の勅命により、城を敵明け渡した（詳細については細川藤孝の項目を参照）。
戦後は京極高知が信濃飯田藩より入り、丹後一国を領する丹後藩として加佐郡（舞鶴）も統治した。後に京極高知の子らにより丹後は分割され、京極高三（京極道誉の末裔）が加佐郡に舞鶴藩（田辺藩）（35000石）を立藩した。京極高三は宮津城の築城にともない廃城（一国一城令）となっていた舞鶴城（田辺城）の再構築や、城下町の整備などを行い、その後の舞鶴発展の礎を築いた。のちに京極家は但馬豊岡藩へ移封となり、その後は京極高三の娘婿である牧野富成が丹後田辺藩を継ぎ、牧野家35000石の城下町として幕末まで栄え続けた。
明治から第二次世界大戦まで1933年（昭和8年）に行われた昭和天皇の舞鶴行幸。舞鶴鎮守府を訪問。
明治維新翌年の1869年（明治2年）に版籍奉還が行われ、その後、紀伊田辺藩との同一藩名を解消するため太政官より田辺藩の名称変更を命じられ、同年6月に田辺城の雅号・舞鶴城に因んで舞鶴藩に改称した。1871年（明治4年）には廃藩置県により、西舞鶴は舞鶴県の県庁所在地となったが、同年10月には豊岡県に編入され、1876年（明治9年）に京都府へと編入された。
1873年（明治6年）には舞鶴藩の家老であった河村真六によって、舞鶴藩の藩校であり多くの学者を輩出した明倫館が明倫小学校として開校し、1889年（明治22年）に市町村制が導入されると加佐郡舞鶴町（西舞鶴）が誕生した。その後1901年（明治34年）10月には、軍事的要地として東舞鶴に舞鶴鎮守府が設置され、初代長官には東郷平八郎が就任した（東郷が生み出したとされる肉じゃがは、一説には東舞鶴が発祥地とされる）。それに合わせ東舞鶴の浜村などでは大規模宅地開発が計画され、京都市に模して碁盤目状の市街地が形成され（南北に一条から九条、東西に軍艦の名前が使われる）、多くの海軍官署が設置された（日本海軍の駆逐艦『雪風』は舞鶴での建造である）。
軍都として順調に発展を遂げた舞鶴であったが、1923年（大正12年）2月のワシントン海軍軍縮条約締結に伴い、舞鶴鎮守府は海軍要港部に格下げされ、同時に海軍工廠も工作部に縮小され、一時期人口が減少、市況は沈滞した。同年9月には関東大震災で被災した横須賀市にあった海軍機関科士官を養成する海軍機関学校が移設されることになり、1936年（昭和11年）7月には、再び舞鶴要港部が鎮守府に格上げされると、活況を呈し、人口はピークに達した。現在でも舞鶴市内にいたる所に海軍の遺跡が存在する。
1943年（昭和18年）になるといよいよ戦局が激化すると、舞鶴鎮守府は日本海軍の重要拠点として強化される事となり、東舞鶴市（東舞鶴地区）だけではなく、旧舞鶴市（西舞鶴地区）にも海軍諸施設が多数立地するようになった。また舞鶴海軍工廠では艦船を中心に蛟龍などの特殊兵器も生産するなど軍需生産拠点としても機能強化が図られ、両市が一体となって大軍港都を建設することを海軍が強く要請。旧舞鶴市側は難色を示すが、市役所の位置など諸条件を提示、東舞鶴市も了承したことから、「時局ノ要請二応ジ大軍港都市建設ノ為」すべて京都府知事に一任し、舞鶴市海軍記念日にあたる同年5月27日に東西舞鶴両市は合併した。
