渦巻銀河における解決済の問題「巻き込みのジレンマ」とは異なります。

天文学上の未解決問題銀河中心の周りを回転する恒星の回転速度が観測と理論で食い違うのは、暗黒物質によるものか、それとも他の何かなのか？

物理学の未解決問題なぜ銀河の外縁部は内縁部と同じ速度で旋回しているのか？ ありうる説明として、暗黒物質と修正ニュートン力学が提案されているが、そのうちの片方が真実なのか、それとも両方なのか？
典型的な渦巻銀河の回転曲線。横軸が銀河中心からの距離を縦軸が回転の速さを表す。暗黒物質を仮定しない理論予測 (A) は実際のほぼ平坦な観測結果 (B) を説明できない。左：円の中心が一番回転が速く、外側は遅いと仮定した場合の動画。右：中心側も中心から離れた位置も全く同じ速度と仮定した場合の動きを示した動画。(MOND vs Newtonian rotation)

銀河の回転曲線問題（ぎんがのかいてんきょくせんもんだい、英: galactic rotation curves problem）とは、1980年代に明らかになった天文学の問題の一つである。"flat rotation curve problem" などとも呼ばれる。

分光観測によって銀河の回転曲線（銀河中心からの半径に対して各位置での回転速度の大きさをプロットした曲線）を求めてみると、その銀河の「目に見える」（電磁波を放射・吸収している）物質分布から想定される回転速度とは大きく異なり、銀河の中心からかなり離れた周縁部でも回転速度が低下せず、平坦な速度分布をしていることが分かる。

これは、現在知られている通常の物質（バリオン）とは異なり、光を出さずに質量エネルギーのみを持つ未知の物質が銀河の質量の大半を占めていると仮定する事で説明される。この未知の物質を暗黒物質（ダークマター）と呼び、その正体について研究が続けられている。 一方でこのような暗黒物質を仮定せず、力学の法則を修正することで平坦な銀河回転速度を説明しようとする試みもなされている。 その最も有名なものはミルグロムによる修正ニュートン力学 (MOND) である。他にはプラズマ宇宙論でもこの問題に解決の糸口を示している[要出典]。
定式化

渦巻銀河の質量分布が軸対称であるならば、銀河内の恒星が円軌道を描いていると仮定すると、その円軌道速度 v c {\displaystyle v_{c}} と銀河の重力ポテンシャル Φ {\displaystyle \Phi } には、 R {\displaystyle R} を銀河面内の動径距離として

v c 2 ( R ) = R ∂ Φ ∂ R {\displaystyle v_{c}^{2}(R)=R{\frac {\partial \Phi }{\partial R}}}

という関係が成り立つことになる[1]。動径 r {\displaystyle r} の関数としての円軌道速度 v c ( R ) {\displaystyle v_{c}(R)} を銀河の回転曲線 (英: rotation curve) と呼ぶ[2]。例えば質量 M {\displaystyle M} の質点がつくる重力ポテンシャル Φ {\displaystyle \Phi } は、重力定数を G {\displaystyle G} として Φ ( r ) = − G M r {\displaystyle \Phi (r)=-{\frac {GM}{r}}} であり、対応する円軌道速度

v c ( r ) = G M r ∝ r − 1 2 {\displaystyle v_{c}(r)={\sqrt {\frac {GM}{r}}}\propto r^{-{\frac {1}{2}}}}

は r → ∞ {\displaystyle r\to \infty } で r − 1 / 2 {\displaystyle r^{-1/2}} に比例して減少する[3]。
銀河円盤

銀河円盤が無限に薄く、その質量分布が軸対称であるとき、円柱座標 ( R , ϕ , z ) {\displaystyle (R,\phi ,z)} での質量密度 ρ ( R , ϕ , z ) {\displaystyle \rho (R,\phi ,z)} は面密度 Σ ( R ) {\displaystyle \Sigma (R)} を用いて ρ ( R , ϕ , z ) = Σ ( R ) δ ( z ) {\displaystyle \rho (R,\phi ,z)=\Sigma (R)\delta (z)} と書ける。この分布がつくる重力場 Φ {\displaystyle \Phi } はやはり軸対称であり、銀河面 z = 0 {\displaystyle z=0} 上ではそれは

Φ ( R , 0 ) = − 4 G ∫ 0 R d ρ R 2 − ρ 2 ∫ ρ ∞ d R ′ R ′ Σ ( R ′ ) R ′ 2 − ρ 2 {\displaystyle \Phi (R,0)=-4G\int _{0}^{R}{\frac {d\rho }{\sqrt {R^{2}-\rho ^{2}}}}\int _{\rho }^{\infty }dR'{\frac {R'\Sigma (R')}{\sqrt {R'^{2}-\rho ^{2}}}}}

により与えられる[1][注釈 1]。銀河面内での円軌道速度 v c ( R ) = R ∂ R Φ ( R , 0 ) {\displaystyle v_{c}(R)={\sqrt {R\partial _{R}\Phi (R,0)}}} は、面密度 Σ ( R ) {\displaystyle \Sigma (R)} から積分

v c 2 ( R ) = − 4 G ∫ 0 R d ρ ρ R 2 − ρ 2 d d ρ ∫ ρ ∞ d R ′ R ′ Σ ( R ′ ) R ′ 2 − ρ 2 {\displaystyle v_{c}^{2}(R)=-4G\int _{0}^{R}d\rho {\frac {\rho }{\sqrt {R^{2}-\rho ^{2}}}}{\frac {d}{d\rho }}\int _{\rho }^{\infty }dR'{\frac {R'\Sigma (R')}{\sqrt {R'^{2}-\rho ^{2}}}}}

により求まる[1]。指数関数型円盤モデルによる銀河の回転曲線[5]。青の実線が指数円盤、橙の破線が同じ質量を持つ質点によるケプラー回転を表す。

面密度 Σ {\displaystyle \Sigma } が指数関数的に減少する指数関数銀河円盤[6]モデル

Σ ( R ) = Σ 0 exp ⁡ ( − R a ) {\displaystyle \Sigma (R)=\Sigma _{0}\exp \left(-{\frac {R}{a}}\right)}

( Σ 0 {\displaystyle \Sigma _{0}} , a {\displaystyle a} は定数) では、上式は解析的に積分ができ、銀河面 z = 0 {\displaystyle z=0} での重力ポテンシャルは修正ベッセル関数 K n {\displaystyle K_{n}} , I n {\displaystyle I_{n}} を用いて

Φ ( R , 0 ) = − π G Σ 0 R [ I 0 ( y ) K 1 ( y ) − I 1 ( y ) K 0 ( y ) ] , {\displaystyle \Phi (R,0)=-\pi G\Sigma _{0}R\left[I_{0}(y)K_{1}(y)-I_{1}(y)K_{0}(y)\right],} y = R 2 a {\displaystyle y={\frac {R}{2a}}}