地中海周辺の地域には、運動競技の長い伝統があったように記録されている。なぜならば、古代エジプト人と古代メソポタミア人は、王とその貴族の墓に運動競技を描写しているからである。 しかしながら、彼らは定期的な大会を開催していなかったようである。そして、それらのイベントはおそらく王と上級貴族の宮殿の庭で行われたものと推定されている。 ミノア文明は、フレスコ画にブルリーピング、タンブリング、ランニング、レスリング、ボクシングを書き残しており、体操競技を高く評価していたと推定されている。 それに続く、ミケーネ文明は古代ミノア文明の競技を採用し、宗教的儀式において戦車を用いて競いあったようである[3][4]。ホメロスの語るところの「英雄伝」によれば、死者を称えるために運動競技に参加したと考えられており、その後「イーリアス」においては、戦車レース、ボクシング、レスリング、短距離走のほか、フェンシング、アーチェリー、槍投げの記述がある。 そして、その後に記録された「オデュッセイア」はこれらに走り幅跳びと円盤投げを追加したようである[5]。

@media screen{.mw-parser-output .fix-domain{border-bottom:dashed 1px}}古代ギリシアにおいて信じられた直接の起源は、次のようなものである。伝染病の蔓延に困ったエーリス王・イーピトスがアポローン神殿で伺いを立ててみたところ、争いをやめ、競技会を復活せよ、という啓示を得た。イーピトスはこのとおり競技会を復活させることにし、仲が悪かったスパルタのリュクールゴスと協定を結んだ。オリュンピアの地に武力を使って入る者は神にそむくものである、というもので、この文字が彫られた金属製の円盤がヘーラーの神殿に捧げられた。この円盤はのちに発見された。ただし円盤は現存しないことと、協定を結んだとされるリュクールゴスが実在したかどうか不明のため、この由来には疑問視する声もある[要出典]。

こうしてエーリス領地内のオリュンピアで始まったオリンピックだが、最初のうちの記録は残っていない[要出典]。記録に残る最初のオリュンピア祭は、紀元前776年に行われた。古代オリンピックの回数を数えるときには、この大会をもって第1回と数えるのが通例である[6]。勝者はエーリスのコロイボスであった。ただし、さきの円盤の作成年代などから推測して、この古代オリンピックの開始年は、もう少し遡ると考えられている。競技会の行われた季節は麦の刈り入れが終わり、農民が若干暇になるユリウス暦の8月だったと考えられている[要出典]。

最初はエーリスとスパルタの2国のみの参加だったオリュンピア大祭は、正確に4年に一度開催され続け、しだいに参加国も増えてきた。そしてついに全ギリシア諸国が参加するようになった。この大会はギリシア共通で使われる暦の単位にもなった。オリュンピアードという単位で、これはあるオリュンピア大祭が開催されてから次の大祭が開催されるまでの4年間を示す。年を特定するためには「第○○オリュンピアードの第×年」と数える[注釈 1][要出典]。
中期の古代オリンピックオリュンピアのゼウス神殿（復元図）古代オリュンピア聖域（復元想像図）

オリュンピア大祭は、エーリス州のゼウスの神殿が建てられたオリュンピアの聖域にある競技場（スタディオン等）で開催された。開催1ヶ月前には開催を告げる使者がギリシア全体を回り、大会開催中の1か月の間は休戦となった。のちに参加都市国家が増えると、休戦期間はオリンピック開催時を含め前後に合計3か月伸びた。この休戦期間をエケテイリアという。この休戦は、オリュンピアに向かう競技者や観客の旅の安全を保障するためであった。ゼウスは旅行者の守護神であり、オリュンピア祭への旅の道はとりわけゼウスによって加護されると考えられた。そして、この禁を破った国はオリュンピア祭への参加が拒否されたほか、他国から外交関係を絶たれることにもなった。スパルタは実際に禁を犯してエケテイリアの時期に他国を攻めたため、オリュンピア大祭に参加できなかったことがある。このほか、オリュンピアをピーサに征服されたエーリスが、オリュンピア大祭開催中にオリュンピアに攻め込んだこともあった。

大祭は初期にはスタディオン走のみで1日で終了した。のちしだいに競技種目も増え、紀元前472年には5日間の大競技会となっていた。参加資格のあるのは、健康で成年のギリシア人の自由人男子のみで、女、子供、奴隷は参加できなかった。不正を防ぐため、全裸で競技が行われ、指導者も全裸だった[7]。勝者には勝利の枝（この枝の木の種類は諸説あり）と勝利を示すリボンのタイニアが両腕に巻かれ、ゼウス神官よりオリーブの冠が授与され自身の像を神域に残す事が許された。

競技会は大神ゼウスに捧げられる最大の祭典でもあった。祭りであるので殺し合いは固く禁じられた。格闘技で相手を殺した勝者には、オリーブの冠は贈られなかった。逆に、勝者であれば死者であっても冠が贈られた。パンクラティオンで相手が降参するのと同時に倒れて死んだ勝者に対して審判が冠を授けたという。

審判はきわめて初期はエーリス王が当たったが、競技の数が多くなるとエーリス市民からくじで選ばれた。選ばれた審判たちは、オリンピック期間中、神官として扱われた。審判はエーリスに設けられた専門の施設で競技規則について10か月に渡り専門家から教えを受けた。その間に、続々と各国から選手が集まり、1か月前になると、選手とともに合宿練習をして、練習試合の間にまた規則の確認を行った。予選もここで行われた。オリュンピアのスタディオン