条件2は次の条件を満たすことである[36]。任意の開集合の対U, J ⊂ Vに対して、fk(U) ∩ J ≠ ∅を満たすような、k > 0が存在する。

条件3は次の条件を満たすことである[38]。周期点の集合Yの閉包cl(Y)が、cl(Y) = Vである。
研究史
カオス命名以前

カオス理論誕生以前にも、カオスの性質の1つである初期値鋭敏性の存在について既に指摘されていた[20]。ジェームズ・クラーク・マクスウェルが、1877年の著書「物質と運動」の冒頭中で、『「同じ原因は常に同じ結果を生み出す」という、よく引用される原則がある。もう一つの原則として、「似た原因は似た結果を生む」というものがある。多くの物理現象はこれを満たすような状態にあるが、小さな初期状態の違いがシステムの最終状態に非常に大きな変化をもたらす場合もある』と述べている[39][40]。さらにマクスウェルは、続く注記の中で『気象現象は局所的な不安定性の限りない集まりに起因するような現象かもしれず、1つの有限な法則体系に全く従わないような現象かもしれない』と述べており[40]、後にローレンツが指摘するような気象現象の不安定性を指摘している[39]。

19世紀における一般的な非線形微分方程式の解法手法は、ウィリアム・ローワン・ハミルトン等の成果に代表される積分法（積分、代数変換の有限回の組み合わせ）による求解と、微小なずれを補正する摂動法である。この積分法による解が得られる系を、ジョゼフ・リウヴィルは可積分系と呼んだ。その条件は、保存量の数が方程式の数（自由度）と一致することであった。

カオス理論の始まりともされる系統的研究の最初のものとしては、アンリ・ポアンカレによる仕事が挙げられる[41]。1880年代、ポアンカレは、三体問題の研究において、非周期的で、増加し続けないまたは固定点へ到達しない軌道があり得ることを発見した[42][43]。1892年から1899年、ポアンカレは、三体問題では保存量が不足し積分法による解析解が得られないこと（ポアンカレの定理）を証明した（このような系を非可積分系と呼ぶ）。彼は、この場合に軌道が複雑となることを示唆している。ただし、この時点では、その実態は認識されていなかった。

実在の系でカオス運動を観察したと考えられる例としては、1927年のファン・デル・ポール(en:Balthasar van der Pol)とファン・デル・マークによる実験報告が挙げられる。彼らは1927年の論文において非線形電気回路の実験における周波数非増加(Frequency demultiplication)と呼ぶ現象を報告した[44]。これは彼らが構成した非線形な電気回路において、コンデンサの容量Cをパラメータ的に増加させていくと、回路の発振周波数ωがω/2, ω/3, ω/4,...という風に非連続的に移り変わっていく現象である[45]。特に、ファン・デル・ポールらは、このような発振周波数の非連続的な遷移の前に不規則な雑音(irregular noise)が発生することを報告している[45]。小室元政らは、実在の系によるカオス現象の報告はこの実験が最初だろうと推測している[46]。しかし、ファン・デル・ポールらは、この現象を副次的な現象(subsidiary phenomenon)と見なして、それ以上の研究は続けなかった[47]。

1940年代、アンドレイ・コルモゴロフ、V.B.チリコフ等により、このハミルトン力学系（例えば、多体問題といった散逸項の無いエネルギーが保存される系）のカオス研究が進められた。大自由度ハミルトニアン系カオスは、統計力学の根源に結びつくものでもあるが、その定義すら困難であり今後の研究が期待される。
カオス命名と研究の隆盛

1961年、エドワード・ローレンツにより、簡単な微分方程式から作られる天気予報の気象モデルの数値計算結果がカオス的な振る舞いをすることが発見された。1963年、この結果はテント写像により引き起こされるカオスとして発表された[48]。このタイプのカオスは、ローレンツカオス（後述するカオスの例）と呼ばれ、ローレンツ・アトラクタを持つことでも有名である。しかし、このローレンツの論文は当時はほとんど注目を集めることなく埋もれてしまった[49]。

また京都大学工学部の上田睆亮は、1961年に既に、非線形常微分方程式を解析する電気回路で発生したカオスを物理現象として観測し、不規則遷移現象と称してカオスの基本的性質を明らかにしていた。しかし、日本の学会ではその重要性が認識されず長い間日の目を見なかった。この上田が発見したストレンジ・アトラクタは、後の1980年にフランスの数学者ダビッド・リュエルによりジャパニーズ・アトラクタと命名され、日本海外でも知られるようになった[50]。

これらの複雑な軌道の概念は1975年、ジェイムズ・A・ヨークとリー・ティエンイエンによりカオスと呼ばれるようになった。また、マンデルブロ集合で有名なブノワ・マンデルブロなどにより研究が進んだ。

一方では、非線形方程式の中にはソリトン（浅水波のモデル）のように無限の保存量を持ち、安定した波形を保ち将来予測の可能な、解析的な振る舞いが明らかになっているものもあり、カオスとは対極にある存在である。しかし、ソリトンと言えども、連続無限自由度を扱うような特殊な場合で可積分系が破れることがあり、その場合カオスになることが指摘された。
カオスの一例
ロジスティック写像詳細は「ロジスティック写像」を参照

二次方程式を用いた写像 X n + 1 = a X n ( 1 − X n ) : 0 ≤ a ≤ 4 ,   0 ≤ X 0 ≤ 1 {\displaystyle X_{n+1}=aX_{n}(1-X_{n}):0\leq a\leq 4,\ 0\leq X_{0}\leq 1}

をロジスティック写像と呼ぶ。もともとロジスティック方程式という連続時間の微分方程式として、19世紀から知られていたが、写像として時間を離散的にすることで、極めて複雑な振舞いをすることが1976年、ロバート・メイによって明らかにされた。

ロジスティック写像は生物の個体数が世代を重ねることでどのように変動していくのかのモデルとして説明される。ここで a {\displaystyle a} （下図の横軸）が繁殖率、 X n {\displaystyle X_{n}} （下図の縦軸）が n {\displaystyle n} 世代目の個体数を表している。

a ≤ 3 {\displaystyle a\leq 3} のとき、個体数 X n {\displaystyle X_{n}} はある一定の値に収束する。

3 < a ≤ 3.56995 {\displaystyle 3<a\leq 3.56995} のときについては、まず a {\displaystyle a} が3を超えたところで X n {\displaystyle X_{n}} が2つの値を繰り返す様になる。さらに a {\displaystyle a} が 1 + 6 {\displaystyle 1+{\sqrt {6}}} より大きくなると X n {\displaystyle X_{n}} のとる値が4つ、8つと増加していく。この周期逓倍点の間隔は一定の比率ファイゲンバウム定数で縮まる。


3.56995 < a {\displaystyle 3.56995<a} のとき、 X n {\displaystyle X_{n}} のとる値に規則性が見られなくなる。この境界値3.56995をファイゲンバウム点と呼ぶ。