モジュラー形式は、モジュラー群という大きな群についての対称性をもつ上半平面上の複素解析的函数である。歴史的には数論で興味をもたれる対象であり、現代においても主要な研究対象である一方で、代数トポロジーや弦理論などの他分野にも現れる。

モジュラー函数（英: modular function）[note 1]は重さ 0 、つまりモジュラー群の作用に関して不変であるモジュラー形式のことを言う。そしてそれゆえに、直線束の切断としてではなく、モジュラー領域上の函数として理解することができる。また、「モジュラー函数」はモジュラー群について不変なモジュラー形式であるが、無限遠点で f(z) が正則性を満たすという条件は必要ない。その代わり、モジュラー函数は無限遠点では有理型である。

モジュラー形式論は、もっと一般の場合である保型形式論の特別な場合であり、従って現在では、離散群の豊かな理論のもっとも具体的な部分であると見ることもできる。
SL2(Z) のモジュラー形式
標準的な定義

モジュラー群とは次の群のことをいう。 S L ( 2 , Z ) = { ( a b c d ) 。 a , b , c , d ∈ Z ,   a d − b c = 1 } {\displaystyle SL(2,\mathbf {Z} )=\left\{\left.\left({\begin{array}{cc}a&b\\c&d\end{array}}\right)\right|a,b,c,d\in \mathbf {Z} ,\ ad-bc=1\right\}}

正の整数 k にたいし、重さ k のモジュラー形式とは、次の 3つの条件を満たす上半平面 H = {z ∈ C, Im(z) > 0} 上の複素数値函数 f である。(1) f は H 上の正則函数である。(2) H のすべての z と上記の SL(2,Z) のすべての行列に対し、 f ( a z + b c z + d ) = ( c z + d ) k f ( z ) {\displaystyle f\left({\frac {az+b}{cz+d}}\right)=(cz+d)^{k}f(z)} が成立する。(3) f は、z → i∞ として正則である。

注意：

奇数の k に対し、零関数しか第二の条件を満たさないことに注意する。

第三の条件は f が「カスプにおいて正則である」ということもできる。用語は以下で説明する。

第二の条件は、行列 S = ( 0 − 1 1 0 ) {\displaystyle S=\left({\begin{array}{cc}0&-1\\1&0\end{array}}\right)} と T = ( 1 1 0 1 ) {\displaystyle T=\left({\begin{array}{cc}1&1\\0&1\end{array}}\right)} で考えると、
f ( − 1 / z ) = z k f ( z ) {\displaystyle f(-1/z)=z^{k}f(z)\,} と f ( z + 1 ) = f ( z ) {\displaystyle f(z+1)=f(z)\,} であることが分かる。S と T はモジュラー群 SL(2,Z) を生成するので、上の第二の条件はこれら 2つの条件と同値である。

f ( z + 1 ) = f ( z ) {\displaystyle f(z+1)=f(z)}
であるので、モジュラー形式は周期 1 をもつ周期函数であり、従ってフーリエ級数展開を持つ。
格子上の函数としての扱い

重さ k のモジュラー形式は複素数全体の成す集合 C における格子 Λ の集合上の函数 F で条件
格子 ⟨α, z⟩ が定数 α と変数 z で生成されるならば、F(Λ) は z の解析函数である。

α が 0 でない複素数で、αΛ を Λ の各元に α を掛けることによって得られる格子とするとき、F(αΛ) = α−kF(Λ) を満たす。

F(Λ) の絶対値は、 Λ の 0 でない最小の元の 0 からの距離が有界である限りにおいて、有界である。

をみたすものとして考えることができる。k = 0 のとき、条件 2 は F が格子の相似類にしか依らないことを言っている。条件 3 をみたす重さ 0 のモジュラー形式は定数関数のみである。条件 3 を外して、函数が極を持つことを許せば、荷重 0 の場合の例としてモジュラー函数と呼ばれるものを考 えることができる。

このように定めたモジュラー形式 F を複素一変数の函数に変換するのは簡単で、z = x + iy で y > 0 かつ f(z) = F(⟨1, z⟩) とすればよい（y = 0 とすると 1 と z が格子を生成できないので、y が正である場合にのみに限って考える）。前節の条件 2 はここでは、（モジュラー群の作用として）整数 a, b, c, d で ad − bc = 1 を満たすものに対する函数等式 f ( a z + b c z + d ) = ( c z + d ) k f ( z ) {\displaystyle f\left({az+b \over cz+d}\right)=(cz+d)^{k}f(z)}

となる。たとえば f ( − 1 / z ) = F ( ⟨ 1 , − 1 / z ⟩ ) = z k F ( ⟨ z , − 1 ⟩ ) = z k F ( ⟨ 1 , z ⟩ ) = z k f ( z ) {\displaystyle f(-1/z)=F(\langle 1,-1/z\rangle )=z^{k}F(\langle z,-1\rangle )=z^{k}F(\langle 1,z\rangle )=z^{k}f(z)}

などである。
モジュラー曲線上の函数としての扱い

C の格子 Λ は C 上の楕円曲線 C/Λ を決定する。上で格子の集合上の函数とみなせることを説明したが、同じように楕円曲線の集合の上の函数ともみなすことができる。このようにして、モジュラー形式はモジュラー曲線の上の直線束の切断と考えることができる。たとえば、楕円曲線の j-不変量はモジュラー曲線の有理関数体の生成元である。

直線束の切断としての解釈は次のように説明できる。ベクトル空間 V にたいし射影空間 P(V) 上の函数を考える。V 上の函数 F で V の元 v ≠ 0 の成分の多項式であって、等式 F(cv) = F(v) を 0 でない任意のスカラー c についてみたすようなものを考えると、そのようなものは定数函数しか存在しない。条件をゆるめて多項式の代わりに分母をつけて有理函数を考えれば、F として同じ次数のふたつの斉次多項式の比とすることができる。あるいは F は多項式のままにしておいて、定数 c に関する条件を F(cv) = ckF(v) と緩めれば、そのような函数は k 次の斉次多項式である。斉次多項式の全体は実際には P(V) 上の函数ではないのだから、P(V) の函数が記述する幾何学的な内容を、本当に斉次多項式が記述できるのかと考えるのは自然である。これは代数幾何学において層（この場合は直線束）の切断を考える事に相当する。これは、モジュラー形式についての状況とちょうど対応する話になっている。

例

偶数 k > 2 に対して Ek(Λ) を、 E k ( Λ ) = ∑ λ ∈ Λ − 0 λ − k {\displaystyle E_{k}(\Lambda )=\sum _{\lambda \in \Lambda -0}\lambda ^{-k}}

と定義する。これはアイゼンシュタイン級数とよばれる重さ k のモジュラー形式である。

条件 k > 2 は収束のために必要である。