1736年2月12日にフランツとマリア・テレジアは結婚した。当時の王室としては異例の恋愛結婚で、フランツは名門ハプスブルク家と結びつくことになった（2人の子供の代からはハプスブルク＝ロートリンゲン家となる）。しかしそのために周辺諸国からは反発され、故国のロレーヌ公国をフランスへ譲った。ロレーヌはフランス国王 ルイ15世の王妃の父である前ポーランド国王 スタニスワフ・レシチニスキが1代限りの君主として余生を過ごした後、フランス王国に併合される。一方、フランツはメディチ家が断絶して空位となったトスカーナ大公国を継承した。フランツは父方と母方の双方から、メディチ家の大公フランチェスコ1世の血を引いていた[2]。

フランツはロレーヌの譲渡に関する合意書に署名する際、怒りと絶望のあまり3度もペンを投げ捨て、震える手でようやく署名したという。また、母エリザベート・シャルロットからはその譲渡を激しく非難された。

その後もフランツは生涯に何度も屈辱を味わわされることとなった。宮廷のしきたりに従って、夜に劇場を訪れる時には2列目という格下の席に甘んじなければならなかった。また、オーストリアの宮廷人たちはフランツをマリア・テレジアの添え物に過ぎないと見ており、「殿下」の敬称を付けないなど、ちょっとした嫌がらせは日常茶飯事だったという。

このような態度は宮廷にとどまらず、ウィーン市民からもフランツは厄介者の外国人呼ばわりされていた。1738年10月6日、第1子に続いて第2子も女子のマリア・アンナが生まれたと知ると、宮廷人も民衆もこぞってフランツのせいにした。
オーストリア継承戦争

1740年にカール6世が没すると、マリア・テレジアがオーストリア大公に即位し、彼女の決定によりフランツは共同統治者になった。しかし列国はカール6世の生前に交わした国事勅書の取り決めを無視してハプスブルク家領を侵略し、オーストリア継承戦争が勃発した。プロイセン国王 フリードリヒ2世はシュレージエンを占領し、マリア・テレジアの従姉マリア・アマーリエを妃とするバイエルン選帝侯はボヘミアを占領した上にフランツを差し置いて神聖ローマ皇帝カール7世として戴冠した。

オーストリアの軍隊は弱体であり、フランツはプロイセンとの交渉では条件次第で和平を結ぶことも考えていた。しかし、オーストリア宮廷で主導権を握るのはマリア・テレジアであり、シュレージエンを占領された事に激怒していた彼女はプロイセンに対して一歩も譲歩する気はなく、断固戦う意志を固めていた。

1741年1月1日の最後の会談の際、フランツとプロイセン側の使者ゴッター伯グスタフ・アドルフは極秘に交渉を続けたが、マリア・テレジアはドアの裏やカーテンの陰で耳をそばだて、少しでもフランツが譲歩しそうな気配を見せると、子犬でも呼びつけるように夫へ合図を送った。この交渉は結局、マリア・テレジアによって強引に打ち切られ、戦争は再開されたが、同年4月10日にオーストリア軍はプロイセン軍に敗北した。これを機に、フランツは国政には関与しないようになり、一切の実権をマリア・テレジアが握ることとなった。

1741年6月25日、マリア・テレジアはプレスブルクでハンガリー女王として戴冠式を挙行した。フランツはここでも屈辱を味わわされた。ハンガリー貴族たちは、共同国王でも「王妃」でもないフランツに、私人としての席しか用意できないと告げたのである。フランツは不快な思いを避けるため、戴冠式が行われる聖マルチン教会には入らず、教会の外壁にスタンドのようなものをこしらえると、3歳になる娘のマリア・アンナと上までよじ登り、教会の窓から様子を覗いたという。戴冠式の後の祝宴でも、フランツはいつものように末席につかされた。その後、フランツがハンガリー貴族との会議に出席したことは一度もなく、存在さえほとんど忘れ去られていたという。

1744年9月、フランスとの戦争に参加して軍功を立てようと試みたが、ただちにマリア・テレジアに呼び戻されている。