1キログラムの当初の定義は「1リットルの水の質量」である。当初案の定義では、「大気圧下で氷の溶けつつある温度（すなわち0度）における水について」となっていたが、その後、水の体積は温度依存することが分かり、結果として定義は、1790年に「最大密度（＝液温摂氏4度）における蒸留水1立方デシメートル（1リットル）の質量」と定義された。しかし、水の密度は気圧と温度に影響され、気圧にはその因子に質量が含まれている。すなわちこのキログラムの定義には循環依存が含まれていることになる。
この問題を避けるため、キログラムは特定の温度・気圧における蒸留水の質量として再定義された。1889年、キログラムは「国際キログラム原器の質量」と定義された。国際キログラム原器は1キログラムの質量を示すものとして1870年代に作成されたものであるが、これがキログラムの定義に使用されることとなった。
国際キログラム原器はプラチナ（白金）90%、イリジウム10%からなる合金でできており、直径・高さともに39mmの円柱である。
フランス・パリ郊外セーヴルの国際度量衡局に、二重の気密容器で真空中に保護された状態で保管されている（世界のすべての質量計測の基準であるので、万一にも錆などにより質量が変化しては困るのである）。国際キログラム原器の質量は "Le Grand Kilo" と呼ばれる。
国際キログラム原器を元に40個の複製が作られて各国に配布・保管されており、約10年ごとに特殊な天秤を用いて国際キログラム原器と比較されることになっている。日本には1889年に複製のうちの1つ (No.6) が配布され（日本到着は翌1890年）、日本国内ではこれをキログラムの基準に使用している。この日本国キログラム原器は現在、茨城県つくば市の独立行政法人産業技術総合研究所に、国際キログラム原器と同様の容器内に保管されている。日本国キログラム原器は国際キログラム原器に比べて0.170mg重いことが分かっている。
国際キログラム原器の質量は、表面吸着などの影響により年々増加しており、その量は年に0.1?g程度と見られている。1980年代に42年ぶりに国際キログラム原器の洗浄が行われたが、これにより国際キログラム原器の質量は約60?g減少した。これは1キログラムの6×10-8倍に当たるので、現行の国際キログラム原器による定義の精度は8桁程度ということになる。
2007年9月、国際キログラム原器が50?g軽くなっている事が判明した。“50?g”とは指紋が付いた分に相当するという。同時に作られた複製品には異常がなく、また厳重保管されているのに、なぜこのような状態になったかは未だに不明。
他のSI基本単位は普遍的な物理量に基づく定義に改められているのに対し、キログラムだけが人工物に依存する単位として残ってしまった。人工物による定義では、経年変化により値が変化し、また、焼損や紛失のおそれもある。1970年代から、普遍的な物理量によるキログラムの定義が検討されてきた。
現在の定義に変わる新しい定義の候補として、アボガドロ定数やプランク定数などを用いた各種の提案がある。
その中で最も有力なのが、一定個数のケイ素 (Si) 原子の質量をキログラムとするという原子質量標準である。アボガドロ定数の値をより正確に求めることができれば、そこからケイ素1キログラムに含まれるケイ素原子の数を決定することができる。ケイ素が採用されたのは、ケイ素が不純物を含まない単結晶を作りやすいからである。現在、国際度量衡委員会 (CIPM) が中心となって、各国の研究機関でケイ素を用いてアボガドロ定数の不確かさを少しでも小さくするための研究が行われている。
現在のアボガドロ定数の値 NA = 6.022 141 5(10)×1023 mol-1（CODATA2002年推奨値。括弧内は標準不確かさ）には、7桁目に不確かさがある。現行の定義による精度は8桁なので、あと1桁精度を上げることができれば、キログラムの定義を原子質量標準に置き換えることができる。なお、アボガドロ定数のCODATA2002年推奨値は、日本の産業技術総合研究所（産総研）とドイツの物理工学研究所 (PTB) によって報告されたもので、各研究機関からの報告の中で最も信頼性が高いとして2002年の推奨値に反映されたものである。
他には以下のような提案がある。
静止エネルギーと質量の関係式 E=mc? を用いて、ある振動数 ν の光子のエネルギー (E = hν) と等しい静止エネルギーを持つ物体の質量を1キログラムと定義する。
かつてプランク定数とキログラムを関連づけることでアンペアを定義するのに用いられたワット天秤を用いて定義する。
超伝導コイルで発生する磁場で超伝導体を浮揚することによってキログラムと電気量とを関連づけ、コイルに流れる電流により定義する。
ジョセフソン定数 (KJ≡4.835 979×1014 Hz/V) とフォン・クリッツィング定数 (RK≡2.5812807×104Ω) を用いて定義する。すなわち、真空中に1メートルの間隔で平行に置かれた無限に小さい円形の断面を有する無限に長い2本の直線状導体のそれぞれに、1秒あたり6.24150962915265×1018の電荷による直流の電流が流れるとき、導体に2×10-7m/s?の加速度が生じたときの、その導体の1メートルあたりの質量を1キログラムと定義する。
金の原子を蓄積し、それを中性化するのに必要な電流によって定義する。
グラム（gram, gramme, 記号:g）は質量の単位であり、SIにおいてはキログラムの1000分の1 (10-3 kg) と定義されている。「キログラム」は、明らかにグラムに接頭辞キロをつけたものである。しかし、SIにおいては、グラムではなくキログラムが基本単位となっており、グラムはその分量単位の一つとされている。
グラムではなくキログラムがSI基本単位とされたのには、以下のような経緯がある。
フランスにおいて1790年当時フランス王ルイ16世の号令の元、新しい時代の度量衡としてメートル法を策定すべく、主に科学者達で構成された委員会が結成された。当時その委員会において、質量単位のモデルとして1メートルの10分の1で構成された立方体の升に入った水の質量、すなわち1リットルの大気圧下で氷の溶けつつある温度（0度）における水について、grave（グラーブ、記号G）と名称が与えられた質量単位を標準とする事が提案された。その語源はgravity（重力）から由来したものである。
当初はこのgrave（グラーブ）が質量の基本単位として原器が作られる予定であった。またこれを元として、1graveの1000分の1を別の質量単位名でgramme（グラム）ないしgravet（グラベト）、また1graveの1000倍を別の質量単位名を用いてtonne（トン）ないしbar（バー）と称するように名称が考案されたりもした。そしてやがて来るフランス革命の波に襲われ、科学者達の研究は途中で中断するのだが、その後、新しい革命政府が樹立されると再びメートル法が注目されるようになった。