日本では、大和政権が統一以降に自国を「ヤマト」と称していたようであるが、古くから中国や朝鮮は日本を「倭」と呼んできた。石上神宮の七支刀の銘や、中国の歴史書（『前漢書』『三国志』『後漢書』『宋書』『隋書』など）や、高句麗の広開土王の碑文も、すべて倭、倭国、倭人、倭王、倭賊などと記している。そこで大和の代表者も、外交時には（5世紀の「倭の五王」のように）国書に「倭国王」と記すようになった[118]。

しかし、中国との国交が約120年に渡って中絶した後、7世紀初期に再開された時には、初回は「日出ずる処の天子、書を日没する処の天子に致す。恙無しや」（『隋書』）、これに隋が「皇帝、倭皇に問う」（『日本書紀』）と応じ、第2回は「東の天皇が西の皇帝に白す」（『日本書紀』）とする国書を日本側の遣隋使が渡した記述があり、初回の遣唐使を送ってきた唐使と礼を争った時も『日本書紀』では「天子の命のたまへる使、天皇の朝に到れりと聞きて迎えしむ」と日本側が発言している。いずれも「天子」「天皇」は記すが国名は記していない。当時編纂されたとされ、現存しない歴史書『天皇記』『国記』も君主号のみがあり国号は無い[注釈 23]。中国側では『旧唐書』の「東夷伝」に初めて日本の名称が登場し、倭国伝と日本伝を別に立て「日本国は倭国の別種なり。其の国、日の辺に在るを以ての故に、日本を以て名と為す」「或いは曰く、倭国自ら其の名の雅ならざるを悪（にく）み、改めて日本と為す」「或いは曰く、日本は旧（もと）小国、倭国の地を併す」のように、倭と日本の関係について説明している[119]。『新唐書』東夷伝も似た記事を載せるが、日本伝のみを立て、倭国が日本国を併合して国号を奪ったとする異伝を記す点が大きく相違する。

遣唐使はその後もしばしば派遣されているが、いつから「倭」に変えて「日本」を国号としたのかは明らかでない[120]。使者の毎回の交渉について詳しく記述している『日本書紀』も、8世紀に国号としての日本が確立した後の書物であり、原資料にあった可能性のある「倭」という国号の多くを「日本」と改めている[注釈 24]。対照的に『古事記』には「日本」という文字は全く現れない。それ以外の文献では、733年（天平5年）に書かれた『海外国記』の逸文で、664年（天智3年）に太宰府へ来た唐の使者に「日本鎮西筑紫大将軍牒」とある書を与えたというが、真偽は不明である。