力学系には大きく分けて線形力学系と非線形力学系が存在するが、線形力学系ではカオスは発生しない[17]。その系からカオスが生起されるためには、系が何らかの非線形性(nonlinearity)を持つ必要がある[18][14]。言い換えると、軌道を生成する系が非線形力学系であることは、その系からカオスが生起されるための必要条件である。これの十分条件は満たされず、すなわち、非線形力学系であれば必ずカオスが生起するわけではない。以下に述べる特性と違い、非線形性はカオス軌道自体の特性というよりは、カオスを生起する系の特性である。
初期値鋭敏性

カオスの定義あるいは特性として第一に挙げられるのが初期値鋭敏性(sensitivity to initial conditions)である[19][20][注 1]。これは、同じ系であっても初期状態に極僅かな差があれば、時間発展と共に指数関数的にその差が大きくなる性質である[5]。この性質は軌道不安定性(orbital instability)と言い換えられることもある[24][25][26]。定量的には、この初期値鋭敏性は、リアプノフ指数、コルモゴロフ-シナイエントロピーなどで評価される[25][27]。

初期値鋭敏性により極めて小さな差も指数関数的に増大していくので、初期値鋭敏性を有する実在の系の将来を数値実験で予測しようとしても、初期状態（入力値）の測定誤差を無くすことはできないので、長時間後の状態の予測は近似的にも不可能となる[28][25][26]。このような性質は長期予測不能性(long-term unpredictability)[25]や予測不可能性(unpredictablity)[28]などとも呼ばれる。一方で、例えカオスであっても決定論的法則から発生されるものであるため、短時間内であれば有用な予測は可能といえる[29][14]。以上のような性質は、標語的にバタフライ効果(butterfly effect)と呼ばれる。
有界性

初期値鋭敏性、すなわち指数関数的に初期状態の差が広がる軌道を有する系というだけでは、カオスには該当しない[14][30]。カオス軌道であるためには軌道がある有界な範囲に収まる必要がある[14][12][13]。このようなカオスの特性は有界性(boundedness)とも呼ばれる[25]。

初期値鋭敏性のみではカオスとならない例として、 x n + 1 = a x n {\displaystyle x_{n+1}=ax_{n}} という単純な等比数列形式の離散力学系の写像が考えられる[30]。これに対して初期値が異なる2つの軌道を考えると、初期値の差をδとすれば、その差は a n δ {\displaystyle a^{n}\delta } で表せる。よって、これら2つの軌道は離散時間nが増加すれば指数関数的に差が開いていくので、系は初期値鋭敏性を有するといえる。しかし、これらの軌道は x n = x 0   a n {\displaystyle x_{n}=x_{0}\ a^{n}} で示される単純な指数関数曲線であり、有界な領域に収まらず発散してしまい、非周期的な軌道も存在しない。
非周期性

カオスの特徴は、平衡点に収束するわけでもなく、周期的軌道に漸近するわけでもなく、非周期的な軌道を取る点である[16][6][13]。カオスが認識されるようになる以前は、非周期的な運動が発生するには、発生させる系自体も複雑なものだろうと考えられていたが、非常に簡単な決定論的な法則（力学系）からでも非周期運動が発生する点がカオスの特徴である[31]。平衡点収束と周期的軌道以外にも力学系では準周期的軌道と呼ばれる軌道も存在し、非常に複雑で不規則的な軌道を取るが、初期値鋭敏性を持たないことからカオスには分類されない[5]。カオスが非周期軌道を取ることの特性は非周期性(nonperiodicity)などと呼ばれる[25]。非周期的であるかどうかは、パワースペクトルが幅のある連続的スペクトルを示すかどうかなどで評価される[25][32]。
数学的定義の例

カオスの数学的定義として、しばしば引用される、位相的方法による標準的な定義であるロバート・デバニー(Robert L.Devaney)の定義がある[33][9][34]。これを例として以下に示す。

次の3つの条件を満たす写像f: V → Vは、Vの上でカオス的であるといえる[35]。
初期条件に鋭敏に依存する。

位相的に推移的である。

周期点はVにおいて稠密である。

ここで、条件1は次の条件を満たすことである[36]。fの反復合成写像をfnとしたとき、あるδ > 0が存在し、任意のx ∈ Vと、xの任意の近傍Nに対して、 。 f n ( x ) − f n ( y ) 。 > δ {\displaystyle \left|f^{n}(x)-f^{n}(y)\right\vert >\delta } を満たすような、y ∈ N、n > 0が存在する。[37]

条件2は次の条件を満たすことである[36]。任意の開集合の対U, J ⊂ Vに対して、fk(U) ∩ J ≠ ∅を満たすような、k > 0が存在する。

条件3は次の条件を満たすことである[38]。周期点の集合Yの閉包cl(Y)が、cl(Y) = Vである。
研究史
カオス命名以前