リミットサイクル（英: limit cycle, 仏: cycle limite）とは、力学系における相空間上での閉軌道であり、時間 t を無限大、またはマイナス無限大にしたとき、その閉軌道に収束する軌道が少なくとも1つ存在するものである。極限閉軌道や極限周期軌道とも呼ばれる。1881年、力学系の始祖でもあるアンリ・ポアンカレによって初めて見いだされた[1]。

リミットサイクルは非線形系でのみ現れる。リミットサイクルと充分に近い軌道が、全てリミットサイクルに収束するとき、漸近安定である、または単に安定であるという。

安定なリミットサイクルでは、相空間上の様々な初期値から出発した軌道は閉軌道に収束する。閉軌道に小さな摂動が加わっても元の閉軌道に戻る。物理的には、リミットサイクルは自励振動の数理モデルとなる。リミットサイクルを持つ例として、ファン・デル・ポール振動子がある。代数的微分方程式におけるリミットサイクル軌道の数を求める問題は、ヒルベルトの第16問題の第2の問題として知られる[2]。2次元相空間の場合は、ポアンカレ・ベンディクソンの定理などによってリミットサイクルの存在（または非存在）を予見できる。
定義

系の時間を t ∈ R、状態変数を X = (x1, x2, ... , xn) ∈ Rn とする。n 次元連続力学系のある解 X(t) が平衡解ではなく、なおかつ X(t) = X(t + T) を満たすような T > 0 が存在するとき、X(t) は周期解と呼ばれる[3]。特に X(t) = X(t + T) を満たす最小の T は周期と呼ばれる[3]。 時間 t が ∞ から −∞ まで変わるときに解 X(t) が取る像の集まりを軌道と呼ぶ[4]。軌道は、系の相空間 x1, x2, ... , xn 上に描かれる一つの曲線に対応する[5]。周期解が描く軌道は、閉軌道や周期軌道と呼ばれる[4]。閉軌道を C で表すとする。相空間 x1, x2, ... , xn 上で C は単純閉曲線となる[6]。

リミットサイクルは次のように定義される。ある初期値 X0 = X(0) が与えられt解を ϕ (t, X0) と表すとする。相空間上にある閉軌道 C が存在するとする。C のある近傍 U が存在し、U 上の任意の点を初期値とする ϕ (t, X0) が t → ∞ または t → −∞ で C に漸近するとき、C はリミットサイクルと呼ばれる[7]。言い換えると、d(ϕ(t, X0), C) を点 ϕ (t, X0) と集合 C の内の ϕ (t, X0) に最も近い点のあいだの距離として定義するとき、 lim t → ∞ d ( ϕ ( t , X 0 ) , C ) = 0 {\displaystyle \lim _{t\to \infty }d(\phi (t,X_{0}),C)=0}

または lim t → − ∞ d ( ϕ ( t , X 0 ) , C ) = 0 {\displaystyle \lim _{t\to -\infty }d(\phi (t,X_{0}),C)=0}

となる C と X0 ∉ C が存在するとき、C はリミットサイクルと呼ばれる[8]。

リミットサイクル型の振動を示す系をリミットサイクル振動子などとも呼ぶ[9]。「リミット」は極限集合を意味し[9]、リミットサイクルは極限閉軌道[10]、極限周期軌道[11]、極限サイクル[12]などとも呼ばれる。極限集合とは軌道が収束する先を意味し、とくに収束先が1点である場合だけでなく閉軌道のような例も含めて定義したものである[13]。

極限集合には t → ∞ 方向の ω 極限集合と t → −∞ 方向の α 極限集合の2つがある。極限集合を用いてリミットサイクルを定義すると次のようになる。ある初期値 X0 の軌道は閉軌道ではないとする。しかし、その初期値 X0 の ω 極限集合 ω(X0) または α 極限集合 α(X0) が閉軌道だとする。このとき、ω(X0) または α(X0) はリミットサイクルと呼ばれる[13]。

2次元連続力学系では、相平面上でリミットサイクルは必ず孤立した閉軌道となる。すなわち、リミットサイクルとなる閉軌道 C の近傍には他の閉軌道は存在し得ない。近傍内の全ての軌道は、C に吸引されるように近づくか、C から反発するように遠ざかるかの2通りしかない[14]。相空間上の「孤立した閉軌道」をリミットサイクルの定義とする流儀もある[15][4][14]。