カオス理論（カオスりろん、英: chaos theory、独: Chaosforschung、仏: theorie du chaos）とは、力学系の一部に見られる、数的誤差により予測できないとされている複雑な様子を示す現象を扱う理論である。カオス力学ともいう[1][2]。

ここで言う予測できないとは、決してランダムということではない。その振る舞いは決定論的法則に従うものの、積分法による解が得られないため、その未来（および過去）の振る舞いを知るには数値解析を用いざるを得ない。しかし、初期値鋭敏性ゆえに、ある時点における無限の精度の情報が必要であるうえ、（コンピューターでは無限桁を扱えないため必然的に発生する）数値解析の過程での誤差によっても、得られる値と真の値とのずれが増幅される。そのため予測が事実上不可能という意味である。
カオスの定義と特性

ある初期状態が与えられればその後の全ての状態量の変化が決定される系を力学系と呼ぶ[3]。特に、決定論に従う力学系を扱うことを強調して決定論的力学系とも呼ばれる[4]。カオス理論において研究されるカオスと呼ばれる複雑で確率的なランダムにも見える振る舞いは、この決定論的力学系に従って生み出されるものである[5]。この点を強調するためカオス理論が取り扱うカオスを決定論的カオス(deterministic chaos)とも呼ぶ[3]。複雑で高次元の系ではなくとも、1次元離散方程式や3次元連続方程式のような非常に簡単な低次元の系からでも、確率的ランダムに相当する振る舞いが生起される点が決定論的カオスの特徴といえる[6][7]。この用語は、カオス理論以前から存在するボルツマンにより導入された分子カオスと呼び分ける意味合いもある[8]。ボルツマンによるカオスは確率論的乱雑さを表しており、カオス理論におけるカオスとは概念が異なる。

カオス理論におけるカオスの厳密な定義は研究者ごとに違い、まだ統一的な定義は得られていない[9][10]。できるだけ簡単な表現でまとめると、カオスの定義あるいはカオスと呼ばれるものの特性とは、「非線形な決定論的力学系から発生する、初期値鋭敏性を持つ、有界な非周期軌道」といえる[11][12][13][14]。また、このような軌道を含む力学系の性質を指してカオスとも呼ぶ[5][15][16]。軌道を指していることを明らかにする場合はカオス軌道(chaotic orbit)と呼ぶ場合もある[13][16]。以下に、もう少し詳細に説明する。
非線形性

力学系には大きく分けて線形力学系と非線形力学系が存在するが、線形力学系ではカオスは発生しない[17]。その系からカオスが生起されるためには、系が何らかの非線形性(nonlinearity)を持つ必要がある[18][14]。言い換えると、軌道を生成する系が非線形力学系であることは、その系からカオスが生起されるための必要条件である。