県内で旧石器時代の遺跡は、大宮、武蔵野、江南、下総の各台地、秩父盆地の各河川流域に約500が確認されている。この時代の遺跡・遺構は3万年前以降の立川ローム層・大黒ローム層から発見されている[34][35]。
縄文時代・弥生時代

県域は隆起と海退によって形成された。縄文時代において海面は現在よりも高く、東京都東部から県域南東部を中心とした海抜の低い地域は、古東京湾の入り江が大きく入り込んでいたため、海底だったと推定される。その証拠に、川口市の旧鳩ヶ谷市域などに貝塚が至る所に発見されており、海岸に近かったことがうかがえる。縄文時代末期には県域南東部で陸地化が進み、弥生時代には埼玉県全土がほぼ陸地化した（三郷市では弥生時代の土器片が見つかっている）[36]。
古墳時代

古墳時代には、埼玉古墳群を筆頭に県内各地に古墳群が造られ、現存するものは数千基に上る（埼玉県の古墳一覧も参照）。中条古墳群から出土した埴輪 短甲の武人（重要文化財）など、貴重な遺物も発見されている。

古代の国撰史書である『日本書紀』の安閑天皇元年（534年?）の記載に、「閏の十二月…（中略）…是の月に武蔵国造・笠原直使主と同族小杵と、国造を相争いて年経るに定めがたし」云々とあり、現在の鴻巣市笠原地区付近に居を構えていたとされる豪族、笠原直使主と同族の小杵による武蔵国造の勢力争いが起き、朝廷の力を借りた使主が勝利し、国造となった使主は朝廷に横渟（多摩郡または横見郡）・橘花（神奈川県橘樹郡）・多氷（多摩）・倉樔（神奈川県久良郡）の四箇所を屯倉として差し出したと記述されていることや、6世紀に突如現れたこの地の巨大古墳群、および後述の鉄剣などから大和朝廷の直接支配まで、長らく武蔵国における中心だったと考えられる。なお現在の埼玉県にあたる地域には、上述の武蔵国造（无邪志国造）のほかに、のちの秩父郡を本拠とする知々夫国造も存在していた。本域は、律令制以前は、毛野国と呼ばれ、筑紫国や吉備国に比肩する大国であったとされ、大和朝廷との関係において高い地位にあり、現在の東京地域よりも繁栄していた。

1968年（昭和43年）に行田市埼玉にある埼玉古墳群（さきたま風土記の丘、現：さきたま古墳公園）の稲荷山古墳から出土した鉄剣（金錯銘鉄剣）は、1978年（昭和53年）に奈良市にある元興寺文化財研究所で保存処理を行った際、表裏に金象嵌で115文字の銘文があることが分かり注目を浴びた。その文中にある「獲加多支鹵大王（ワカタケル大王）」は『記紀』に登場する雄略天皇であり、『宋書』倭国伝に見える倭王武であって、冒頭の「辛亥の年」は471年であるとする学説が主流である。古代史ブームの巻き起こる中で、鉄剣の解釈をめぐりさまざまな議論がある[37][38]。
奈良時代・平安時代

和銅元年（708年）に、現在の埼玉県秩父市黒谷にある和銅遺跡から、和銅（ニギアカガネ、純度が高く精錬を必要としない自然銅）が産出したことを記念して、「和銅」に改元するとともに、日本最初の流通貨幣となる和同開珎が発行される。

埼玉県域の郡は、足立・新座・入間・高麗・比企・横見・埼玉・大里・男衾・幡羅・榛沢・那珂・児玉・賀美・秩父郡である。また郷の数は県域で75郷である（『和名類聚抄』）。県域内の郡衙所在地は不明なところが多い。神護景雲3年（769年）9月17日に正倉4倉が焼失し、穀類や人に死傷者が出ている。雷火による天災か神火（じんか）[注釈 4]による人災か不明である[39]。
中世
平安時代末・鎌倉時代

中世には武蔵国で人口の特に多かった北武蔵の丘陵地や台地に武蔵武士が出現し、河越氏や畠山氏ら諸氏を分出した秩父氏の一族が活躍した。また同族集団として形成された武蔵七党など中小規模の在地土豪も出た。平治の乱を経て武蔵国が平氏の知行国になると武蔵守には平氏一門が任じられると武蔵武士は被官化し、新恩地を得て西国へも進出した。治承4年（1180年）の源頼朝の挙兵後に服従した豪族には、県域に勢力を持っていた秩父一族が主に頼朝に味方し、治承・寿永の乱における合戦に参戦した。河越氏や畠山氏、比企氏らは鎌倉幕府の創設期に重用されて政務に参画するが、幕府権力の確立課程では河越氏を除き没落し、武蔵武士の地位は低下した。

中世には鎌倉幕府の成立を契機に街道が整備され、西武蔵には南北に鎌倉街道の上道や中道が通じて奥州方面と結ばれ、物資の流通路となったほか軍事的にも重視され、沿道には城館が分布する。幹線道の整備に伴い脇道や水上交通も発達し、多くの市や宿が成立した。
室町時代・戦国時代

河越氏が武蔵平一揆で没落すると戦国期の武蔵は鎌倉公方足利氏と関東管領上杉氏との対立などの影響を受けて乱国状態となった。県域は北武蔵（前線拠点は五十戸（今の本庄市））を地盤とし堀越公方方の山内上杉氏、南武蔵（拠点は川越城）に本拠をおいた扇谷上杉氏などが勢力を争った。下総国方面には古河公方が勢力を張った。

戦国後期には相模国の後北条氏が台頭する。天文10年（1541年）には最重要拠点の川越城を巡り、川越を後北条氏に奪われた扇谷上杉氏の上杉朝定は関東管領の上杉憲政と古河公方と結び、城の救援に向かった北条氏康との間で川越夜戦が行われた。敗北した扇谷上杉氏は滅亡し、後北条氏の勢力圏となった武蔵には多くの支城が築かれ、氏康は上杉憲政を圧迫する。

憲政は越後国守護代の長尾景虎（のちの上杉謙信）を頼り、関東管領職と上杉家家督を譲り受けた景虎は関東出兵を行い氏康と争った。