伝承によると、中国における文字の発祥は、黄帝の代に倉頡が砂浜を歩いた鳥の足跡を見て、足跡から鳥の種類が分かるように概念も同じようにして表現できることに気づいて作った文字とされる。また『易経』には聖人が漢字を作ったと記されている。

新石器時代の出土土器の表面に文字状の彫り込みが見られる。しかし記号・デザインの一種とも考えられており、殷中期まで続く。これらは漢字と系統を同じくするかは定かではなく、漢字の誕生と言えるかは不明である。

考古学的に現存する最古の漢字は、殷後期において占いの一種である卜（ぼく）の結果を書き込むために使用された文字である。これを現在甲骨文字（亀甲獣骨文）と呼ぶ。 漢字としての完成度が高いことが研究により明らかにされている。

当時の卜は亀の甲羅や牛の肩胛骨などの裏側に小さな窪みを穿ち、火に炙って熱した金属棒（青銅製と言われる）を差し込む。しばらく差し込んだままにすると熱せられた表側に亀裂が生じる。この亀裂の形で吉凶を見るのであるが、その卜をした甲骨に、卜の内容・結果を彫り込んだのである。

筆や木簡を表す甲骨文字が見られることから、それらを用いて記した文字もその時代にあったと推測されるが、考古学的出土はない。

現在存在する中での最古の漢字は、殷墟から発掘される甲骨などに刻まれた甲骨文字である[31]。その内容は殷王朝第22代武丁のころから書かれたものであるため、それ以前には新石器時代の遺跡等で発見される記号はあっても、文字として使用できる漢字ができあがったのは紀元前1300年ごろのことだと考えられる[32]。この甲骨文字は物の見たままを描く象形文字であり、当時の甲骨文字は絵に近い様相を持つものも多かった。その一方で、ある種の事態を表現する動詞や形容詞の文字も存在した。たとえば、「立」の原型である人が地面を表す横棒の上に書かれた字（指示文字）、女性が子供をあやす様から「好」や、人が木の袂（たもと）にいる様から「休」などの字（会意文字）も既に含まれていた[33]。さらに、同音の単語をすでにある別の字で表す代用字もあり、たとえば鳥の羽を示す「翼」の原型は、同音で次のことを示す単語に流用され、これがのちに「翌」となった[33]。このように、すでに現在の漢字の書体に似通っている部分が見受けられ、非常に発展したものであり、おそらくはこれ以前から発展の経路を辿ってきたものとみられる。最古の漢字には左右や上下が反転したものや、絵や記号に近い部品がつけられているものなど、現在の常識では考えられない（当然ながら現在では使用されていない）漢字が存在する[34]。その後、青銅器に鋳込まれた金文という文字が登場した。「NHKスペシャル 中国文明の謎第2集 漢字誕生」では、古代メソポタミアの文字が商取引の記録から始まっているのに対して、政治の方針を決めるための占いの用途で、骨（これまでに14,000体の殷の生贄の犠牲となった人骨が出土）に刻むために使われ始めた漢字は、文字としてはきわめて特殊なルーツであったとしている。たとえば、白は人間の頭蓋骨の白に由来する象形文字である。このように、鬼神と王を繋ぐための手段として、初期の漢字は始まった[35]。

周の時代になると、外交や商取引など多くの用途に漢字が使われるようになり、それまでの種類だけでは足りなくなった。そこで多くの新しい漢字が作られた[36]。中国では「清らかで澄んだ」様子を「セイ（tseng）」と呼び、新芽が井戸端に生えた様子から「青」に連なる象形文字を用いた。この「セイ」という発音と文字「青」は形容詞だけでなく「清らかで澄んだ」ものを呼ぶさまざまな名詞にも使われたが、これらにもそれぞれの漢字が割り当てられるようになった。水が「セイ」ならば「清」、日差しが「セイ」ならば「晴」などである。このような漢字の一群を「漢字家族」と言う。侖（liuan-luan、リン-ロン）も短冊を揃えた様子から発し「揃えたもの」を示す象形文字だが、これも車が揃えば「輪」、人間関係が整っておれば「倫」、理論整然としていれば「論」という漢字が作られた。このように、音符に相当する「青」「侖」などと、意味の類別を表す意符が組み合わさった「形声文字」が発達した[37]。紀元100年ごろに後漢の許慎が著した『説文解字』は中国初の字書であり、9,353字の漢字について成り立ちを解説しているが、この中の約8割は形声文字である[37]。このような文字形成の背景には、中国では事物を感性的にとらえ、枠にはめ込む習慣が影響しているともいう。このため、音素文字や単音文字を作り出す傾向が抑えられたと考えられる[37]。

周が混乱の時代を迎えると、漢字は各地で独自の発展をすることになる。その後、意義・形ともに抽象化が進み、春秋戦国時代になると地方ごとに通用する字体が違うという事態が発生した。そして天下を覇した秦の始皇帝が字体統一に着手[38]、そして生まれたのが小篆である。秦は西周の故地を本拠地にしたのであり、その文字は周王朝から受け継がれたものだったため、その系統性が保持されたといえる。

小篆は尊厳に溢れ難解な書式だった。秦、そして後の漢代になると、下級役人を中心に使いにくい小篆の装飾的な部分を省き、曲線を直線化する変化が起こり、これが隷書となった。