最初はエーリスとスパルタの2国のみの参加だったオリュンピア大祭は、正確に4年に一度開催され続け、しだいに参加国も増えてきた。そしてついに全ギリシア諸国が参加するようになった。この大会はギリシア共通で使われる暦の単位にもなった。オリュンピアードという単位で、これはあるオリュンピア大祭が開催されてから次の大祭が開催されるまでの4年間を示す。年を特定するためには「第○○オリュンピアードの第×年」と数える[注釈 1][要出典]。
中期の古代オリンピックオリュンピアのゼウス神殿（復元図）古代オリュンピア聖域（復元想像図）

オリュンピア大祭は、エーリス州のゼウスの神殿が建てられたオリュンピアの聖域にある競技場（スタディオン等）で開催された。開催1ヶ月前には開催を告げる使者がギリシア全体を回り、大会開催中の1か月の間は休戦となった。のちに参加都市国家が増えると、休戦期間はオリンピック開催時を含め前後に合計3か月伸びた。この休戦期間をエケテイリアという。この休戦は、オリュンピアに向かう競技者や観客の旅の安全を保障するためであった。ゼウスは旅行者の守護神であり、オリュンピア祭への旅の道はとりわけゼウスによって加護されると考えられた。そして、この禁を破った国はオリュンピア祭への参加が拒否されたほか、他国から外交関係を絶たれることにもなった。スパルタは実際に禁を犯してエケテイリアの時期に他国を攻めたため、オリュンピア大祭に参加できなかったことがある。このほか、オリュンピアをピーサに征服されたエーリスが、オリュンピア大祭開催中にオリュンピアに攻め込んだこともあった。

大祭は初期にはスタディオン走のみで1日で終了した。のちしだいに競技種目も増え、紀元前472年には5日間の大競技会となっていた。参加資格のあるのは、健康で成年のギリシア人の自由人男子のみで、女、子供、奴隷は参加できなかった。不正を防ぐため、全裸で競技が行われ、指導者も全裸だった[7]。勝者には勝利の枝（この枝の木の種類は諸説あり）と勝利を示すリボンのタイニアが両腕に巻かれ、ゼウス神官よりオリーブの冠が授与され自身の像を神域に残す事が許された。

競技会は大神ゼウスに捧げられる最大の祭典でもあった。祭りであるので殺し合いは固く禁じられた。格闘技で相手を殺した勝者には、オリーブの冠は贈られなかった。逆に、勝者であれば死者であっても冠が贈られた。パンクラティオンで相手が降参するのと同時に倒れて死んだ勝者に対して審判が冠を授けたという。

審判はきわめて初期はエーリス王が当たったが、競技の数が多くなるとエーリス市民からくじで選ばれた。選ばれた審判たちは、オリンピック期間中、神官として扱われた。審判はエーリスに設けられた専門の施設で競技規則について10か月に渡り専門家から教えを受けた。その間に、続々と各国から選手が集まり、1か月前になると、選手とともに合宿練習をして、練習試合の間にまた規則の確認を行った。予選もここで行われた。オリュンピアのスタディオン

大会直前になると、エーリスからオリュンピアまで全選手、役員が行進した。距離は50キロ以上になる。

競技会初日は開会式兼儀式が行われ、最終日は勝者のための宴が丸1日かけて催された。競技は間の3日間で行われた。

競技は第1回からの伝統である192メートル（1スタディオン）のスタディオン走のほか、ディアウロス走（中距離走）、ドリコス走（長距離走）、五種競技、円盤投、やり投、レスリング、ボクシング（拳闘）、パンクラティオン、戦車競走、走り高跳びなどがあった。少年競技の部もあったが種目は少なかった。最終種目は武装競走だった。盾を手に1スタディオンを走って往復する。戦車競走では、勝者への冠は御者ではなく、馬車の所有者に与えられた。このため、女性でオリーブの冠を授かった者が2名いる。体育のほか、詩の競演なども行われた。

女性の参加と観戦に関しては、研究者の間で意見が分かれている。そもそも、競技大祭中は、オリュンピアには女は入れなかった、という説と、神殿と競技場には入れずに、外でテントを張って待っていた、という説と、競技場内でもフィールドに立ちさえしなければ実質的には咎めはなかった、という説と、未婚女性に限り、競技場観客席での観戦が許された、という説がある[7]。少なくともエーリスの女神官が観戦していたことだけは確からしい。女人禁制の掟を破ったものは、崖から突き落とされる（実質的には死刑）というルールであったが[7]、記録に残る限り適用例はなく、象徴的なルールであったとも考えられる。

オリーブの冠を授かった者は、神と同席することを許された（競技会後、オリュンピアの神殿敷地内に優勝者の像がつくられることに由来する）者として、故郷で盛大に迎えられた。祖国の神殿に像が作られた競技者もいるし、税が免除されることもあった。いずれにしても祖国の歴史にながく名が刻まれることになった。オリュンピア遺跡にあるフィリペイオン

マケドニア王国の人々は、国政が都市国家でない上に辺境に住んでいたため、ギリシア人であるにもかかわらず古代オリンピックに参加していなかった。しかし、アレクサンドロス1世は自らの先祖をヘーラクレースと主張し、結果としてギリシア人であると認められ、紀元前6?5世紀頃から古代オリンピックに参加できるようになった[8]。後にピリッポス2世がカイロネイアの戦いに勝利した際には、フィリペイオンというイオニア式のトロスが献納されている。アレクサンドロス大王がアレクサンドロスと名付けられたのも、ピリッポス2世が古代オリンピックで優勝した年に彼が生まれたので、それを記念し、マケドニア王で初めて古代オリンピックに参加したアレクサンドロス1世から名を取ったという[8]。