この項目では、モジュラー変換に関する群について説明しています。部分群の束がモジュラーな群については「岩澤群」をご覧ください。

数学においてモジュラー群(modular group)とは、数論、幾何学、代数学や他の現代の数学の分野における基礎研究対象であり、幾何学的変換群や行列群により表されるものである。
定義

モジュラー群 Γ {\displaystyle \Gamma } は、ad ? bc = 1 を満たす整数 a, b, c, dによって、 z ↦ a z + b c z + d {\displaystyle z\mapsto {\frac {az+b}{cz+d}}}

と表せる複素上半平面の一次分数変換の群である。群演算は写像の合成である。

この変換の群は、特殊射影線型群 PSL(2, Z) に同型である。PSL(2, Z)は整数上の 2-次元の特殊線型群 SL(2, Z) をその群の中心 {I, ?I} で割った商である。言い換えると、PSL(2, Z) は、ad ? bc = 1 を満たす整数a, b, c, dによって ( a b c d ) {\displaystyle {\begin{pmatrix}a&b\\c&d\end{pmatrix}}}

と表される全ての行列で構成される。ただし、行列 A と -A は同一視する。群の演算は通常の行列の積である。

モジュラー群を PSL(2, Z) であると定義する著者がいる一方で、より大きな群である SL(2, Z) であると定義する者もいる。

数学的な関係より、+1または-1の行列式をもつ行列の群 GL(2, Z) を考えることを求めることもある。（ SL(2, Z) はこの群の部分群である。）同様に、PGL(2, Z) は商群 GL(2,Z)/{I, ?I} である。単位行列式を持つ 2 × 2 行列は、シンプレクティック行列であるので、SL(2, Z) = Sp(2, Z) は 2 × 2 行列のなすシンプレクティック群である。
数論的性質 ( a b c d ) {\displaystyle {\begin{pmatrix}a&b\\c&d\end{pmatrix}}}

の行列式が１であるということは、分数 a/b, a/c, c/d, b/d がすべて既約であること、つまり、共通因子を持たないこと（もちろん分母が 0 ではないという条件で）を意味する。もっと一般的には、p/q が既約分数であれば、 a p + b q c p + d q {\displaystyle {\frac {ap+bq}{cp+dq}}}

も既約となる（繰り返すが、分母は 0 ではないという条件で）。既約分数の任意のペアは、このように関連つけることができる。つまり、任意の既約分数のペア p/q と r/s に対して、 r = a p + b q {\displaystyle r=ap+bq} 　と　 s = c p + d q {\displaystyle s=cp+dq}

となるような ( a b c d ) ∈ SL ⁡ ( 2 , Z ) {\displaystyle {\begin{pmatrix}a&b\\c&d\end{pmatrix}}\in \operatorname {SL} (2,\mathbf {Z} )}

が存在する。

モジュラー群の元は、2次元の周期格子上の対称性をもたらす。 ω 1 {\displaystyle \omega _{1}} と ω 2 {\displaystyle \omega _{2}} を 2つの比率が実数でないような 2つの複素数とすると、点の集合 Λ ( ω 1 , ω 2 ) = { m ω 1 + n ω 2 : m , n ∈ Z } {\displaystyle \Lambda (\omega _{1},\omega _{2})=\{m\omega _{1}+n\omega _{2}:m,n\in \mathbf {Z} \}}

は、平面上の平行四辺形の格子となる。異なるベクトルのペア α 1 {\displaystyle \alpha _{1}} と α 2 {\displaystyle \alpha _{2}} が全く同じ格子を生成することと、 SL ⁡ ( 2 , Z ) {\displaystyle \operatorname {SL} (2,\mathbf {Z} )} の行列を用いて ( α 1 α 2 ) = ( a b c d ) ( ω 1 ω 2 ) {\displaystyle {\begin{pmatrix}\alpha _{1}\\\alpha _{2}\end{pmatrix}}={\begin{pmatrix}a&b\\c&d\end{pmatrix}}{\begin{pmatrix}\omega _{1}\\\omega _{2}\end{pmatrix}}}