ヘレニズム期の数学者アレクサンドリアのヘロンとディオファントス[8]やインドの数学者ブラフマグプタらはエジプトやバビロニアの伝統に則って数学を発展させ、ディオファントスの『算術』やブラーマグプタの『ブラーマ・スプタ・シッダーンタ』といった成果が生まれた[9]。例えば、二次方程式の（ゼロや負の解を含む）完全な解法を初めて記したのがブラーマグプタの『ブラーマ・スプタ・シッダーンタ』である。その後、アラブ世界（イスラム世界）の数学者が代数学的手法をより高度なものへと洗練させていった。ディオファントスや古代バビロニア人は方程式を解くのに場当たり的な技法を使っていたが、アル＝フワーリズミーは一般化された解法を初めて使用した。彼は、一次不定方程式、二次方程式、二次不定方程式、多変数の方程式などを解いた。1545年、イタリアの数学者ジェロラモ・カルダーノは40章からなる『偉大なる術』を著し、世界で初めて四次方程式の解法を示した。

ギリシャ人数学者ディオファントスは昔から「代数学の父」と呼ばれてきたが、最近ではアル＝フワーリズミーの方がその名にふさわしいという議論がある[10]。ディオファントスを支持する側は、フワーリズミーの著作は『算術』よりも扱っている内容が初等的であり、フワーリズミーの著作が修辞的で冗長なのに対して『算術』は簡潔に記述してある点を指摘する[11]。一方フワーリズミーを支持する側は、彼が左右の辺の間での項の移動や打消しといった手法を導入した点（al-jabr の本来の意味とされている）[12]、幾何学的証明を証拠としつつ二次方程式の解法を徹底的に解説し[13]、代数学を独立した分野にまで高めたという点を指摘する[14]。フワーリズミーの代数学はもはや一連の問題と解法を示すのではなく、単純な式からそれらを組み合わせた複雑な式まで全ての可能性を網羅し、今後の真の研究対象が何であるかを示している。そして、無限に存在する問題のクラスを定義するためにのみ必要な一般化された形で方程式を研究した[15]。

ペルシャの数学者ウマル・ハイヤームは代数幾何学の創始者とされており、三次関数の一般解を見出したことで知られる。同じくペルシャの数学者シャラフ・アッ＝ディーン・アッ＝トゥースィ（ペルシア語版、英語版）は様々な三次方程式の代数解や数値解を求めた[16]。彼は関数の概念も生み出した[17]。インドの数学者マハーヴィーラとバースカラ2世、ペルシャの数学者アル＝カラジ（ペルシア語版、英語版）[18]、中国の数学者朱世傑は、三次、四次、五次などの高次多項式方程式を数値的手法で解いた。13世紀にはレオナルド・フィボナッチの三次方程式の解法に代表されるように、ヨーロッパにおける代数学の復興がなされた。一方でイスラム世界では数学が衰退し、それと入れ替わるようにヨーロッパで数学が盛んになっていった。その後、代数学はヨーロッパを中心として発展していった。

16世紀末のフランソワ・ビエトは、古典的学問分野としての代数学を創始した。1637年のルネ・デカルトの『幾何学 (La Geometrie)』は解析幾何学の先駆けであり、近代的な代数的記法を導入したものである。代数学の歴史上重要なもう1つの出来事は、16世紀中ごろに三次方程式および四次方程式の代数学的一般解が得られたことである。17世紀には日本の数学者である関孝和が行列式の考え方を考案し、それとは独立にゴットフリート・ライプニッツが10年ほど遅れて同じ考え方に到達した。行列式は連立一次方程式を行列を使って解くのに使われる。18世紀のガブリエル・クラメールも行列と行列式について貢献した。ジョゼフ＝ルイ・ラグランジュは1770年の論文 Reflexions sur la resolution algebrique des equations で根の置換について研究し、ラグランジュの分解式（英語版） (Lagrange resolvent) を導入した。パオロ・ルフィニは対称群について研究し、同時に代数方程式の解法についても研究した。

19世紀には抽象代数学が生まれた。当初は後にガロア理論と呼ばれるようになった分野と構成可能性問題が中心だった[19]。近代代数学は、リヒャルト・デーデキントやレオポルト・クロネッカーの業績に見られるように代数的整数論や代数幾何学といった境界領域を通して数学の他の領域とも密接に関連している[20]。ジョージ・ピーコック（英語版）は算術と代数学における公理的思考法を創始した。オーガスタス・ド・モルガンは Syllabus of a Proposed System of Logic において関係代数を見出した。