硫酸を発見した人物として2人の名前が知られている。1人は8世紀のイスラム世界の錬金術師、ジャービル・イブン＝ハイヤーン（ラテン名ゲベル Geber) であり、ミョウバンもしくは緑礬（りょくばん、硫酸鉄 FeSO4・7H2O）を乾留して硫酸を得たとされている。また、ゲベルは蒸留装置として現在も使用されているランビキ (alembic) の発明者でもある。
もう1人は9世紀のイスラム社会の医者であり錬金術師であったイプン・ザカリア・アルザジ (Ibn Zakariya al-Razi; Rhases) である。"green vitriol" と呼ばれた緑礬あるいは "Blue vitriol" と呼ばれた硫酸銅5水和物を含む鉱石を乾留して硫酸を発見した。乾留の過程で加熱による熱分解で酸化鉄あるいは酸化銅とともに、三酸化硫黄が発生する。これが水を吸って凝縮し、希硫酸が得られた。
この方法は、13世紀のドイツ人アルベルト・マグナスなどによるイスラム文献の翻訳により、ヨーロッパへと伝えられた。このような由来により中世の錬金術師の間では、硫酸は oil of vitriol や spirit of vitriol と呼ばれていた。
14世紀には、ベネディクト会の修道士であり、錬金術学者でもあったバレンティヌス ( ⇒Basilius Valentinus) が硫黄と硝石を併せて燃焼させると、金属を溶かす性質のある液体（硫酸）が得られることを発見した。バレンティヌスの他の功績として、著書 The Triumphal Chariot of Antimony において、初めて金属アンチモンの製法を記したことが挙げられる。
1600年ごろ、オランダ人の発明家コルネリウス・ドレベル (Cornelius Jacobszoon Drebbel) は、熱したイオウと硝石から当時としては最も効率よく硫酸を回収する方法を確立した。ドレベルの手法は150年後に登場するローバックの鉛室法につながっていった。なお、彼は1619年に凸レンズを2つ備えた顕微鏡を発明し、1620年にイギリス海軍のために、世界初の潜水艦を建造している。このほか大気圧の変動を利用した永久時計やスズ染料も開発している。初等教育しか受けていないが多才な発明家であった。
17世紀にはドイツの化学者ヨハン・ルドルフ・グラウバー (Johann Rudolph Glauber) がアムステルダムに硫酸工場を設立している。水蒸気を通じながら、硫黄を硝石と一緒に燃やす手法を採った。硝石の分解生成物が硫黄を酸化して三酸化イオウを作り、三酸化イオウと水の化合物として硫酸を得ていた。硫酸工場の目的は、硝石と反応させて硝酸を製造するためであった。1654年には食塩に硫酸を反応させて塩酸を発見している。このとき生成する硫酸ナトリウムは彼の名からグラウバー塩とも呼ばれる。
1736年には、イギリスのジョシュア・ウォード (Joshua Ward) が全工程にガラス容器を用い、グラウバーの製法を用いて生産規模を拡大した。
1746年にイギリスの化学技術者ジョン・ローバック (John Roebuck) が反応容器の素材をそれまでのガラスから鉛に変え、鉛室法の基礎を確立した。硫酸の製造コストを大幅に引き下げることができたため、鉛室法の工場はイギリス中に広まった。繊維の漂白剤の製造に硫酸が欠かせなかったことから、17世紀から18世紀当時の産業革命の進展に大いに寄与した。さらに製鉄法に改良を加え、ジェームズ・ワットの蒸気機関開発に資金援助も行っている。
1793年、フランスの化学者ニコラ・クレマン (Nicolas Clement) とシャルル・デゾルム (Charles Bernard D?sormes) が鉛室法を完成した。鉛の容器中で硫黄と硝石に「空気を通じながら」燃焼させたことに特徴がある。クレマンとデゾルムは、1811年にヨウ素を発見した化学工業家ベルナルド・クルートアの友人であり、ヨウ素のサンプルの分析を依頼されて発見を再確認し、1813年11月29日にクルートアの業績を公開している。クルートアは火薬の製造に不可欠な硝酸カリウムの製造会社の跡取りであり、ヨウ素を発見したのは硝酸カリウムを海草から抽出した残留物に硫酸を過剰に加えたからであった。
その後、鉛室の前段階で硫黄を燃焼させ、三酸化硫黄を製造する工程が加わった。
1818年、フランスの物理学者、化学者であるゲイ＝リュサックが鉛室法を改良、1827年には、鉛室で生成した窒素酸化物を回収するため、鉛室の後段に接続するゲイ＝リュサック塔を考案した。1837年にはフランスの硫酸工場に最初の塔が設置されたものの、広範囲には使われなかった。
1859年には、イギリスのジョン・グローバー (John Glover) が回収した不純物を含む硫酸から硝酸を分離するためのグローバー塔を考案した。ゲイ＝リュサック塔はグローバー塔と組み合わせることで真価を発揮し、硝酸法の地位が確立した。これをもって、硫酸製造の工業化が完成されたとされている。イオウの燃焼室、グローバー塔、鉛室、ゲイ＝リュサック塔を直列に接続し、グローバー塔とゲイ＝リュサック塔の間で硫酸を循環させるシステムができあがった。
1870年代には、鉛室の前後に2種類の塔を備えた硫酸工場がイギリスを中心にヨーロッパ中に広まった。
鉛室法は長い間標準的な製法であったが、白金触媒を用いる接触法が開発され、ついで、1915年に発見された五酸化バナジウム (V2O5) 触媒を用いるBASF法に置き換えられていった。
濃度 98% の硫酸の融点は 3 ℃、比重は1.84 (15 ℃) である。204 ℃、98.33% の濃度で水と三酸化硫黄の分圧が等しくなるため、不揮発性ではあるが、温度を上げるだけではこれ以上濃度を高めることはできない。濃度が高くなるにつれ、油状になる。硫酸の粘度 (Pa・s) は温度の上昇とともに下がっていく。25 ℃、1気圧では、23.8 × 10−3 だが、50 ℃ で 11.7 × 10−3、100 ℃ では 4.1 × 10−3 となる。
金属と反応させた場合の挙動は、金属の種類のほか、硫酸の濃度と温度に依存する。例えば濃度と温度がいずれも高い熱濃硫酸では、酸化力が高くなる。
反応生成物も変化に富む。一般には、水素 (H2)、硫化水素 (H2S) 、硫黄 (S)、二酸化硫黄 (SO2)、金属の硫化物、硫酸塩が生成する。