マンドリンの直接の起源はリュートから派生した楽器「マンドーラ」といわれている。初期のマンドリンは6コースのガット弦を持ついわゆるバロックマンドリン（マンドリーノ）で、アントニオ・ヴィヴァルディが書いたマンドリン協奏曲はこの型のためのものである。
近代マンドリンの歴史は19世紀のパクスワーレ・ヴィナッチャ（英語版）の楽器改良に始まる。ヴィナッチャは4コースのナポリ型マンドリンの改良に取り組み、一定の成果を収めた。これ以後ナポリ型が主流となる。19?20世紀にかけてウンベルト1世妃マルゲリータがマンドリンを愛好し、マンドリン演奏はイタリア中で大流行となる。カルロ・クルティ（英語版）、カルロ・ムニエル、ラファエレ・カラーチェ、シルヴィオ・ラニエーリ（英語版）らが奏者・作曲家として活躍した。しかしイタリアが第二次世界大戦で敗北し、王政が廃止されるとイタリアでのマンドリン音楽は一時的に衰退した。
日本の状況「マンドリンオーケストラ#日本への普及」も参照
日本では、1894年四竈訥治がイギリス人から贈られたマンドリンを演奏した記録が残っている。1901年には比留間賢八が留学先のイタリアからマンドリンを持って帰国し、指導者となる。比留間の門人には萩原朔太郎や藤田嗣治や里見弴らがいる。また娘の比留間きぬ子もマンドリン奏者で、数多くの門弟を育てた。
日本で本格的にマンドリンが流行するきっかけとなったのは1924年のラファエレ・カラーチェの来日である。彼は摂政宮（のちの昭和天皇）のために御前演奏するなど、各地で演奏会を開いている。彼の来日に影響を受けたマンドリン奏者の中に後に作曲家として活躍する鈴木静一・中野二郎・服部正がいる。
1968年から2年に1回、日本マンドリン連盟主催独奏コンクールが開かれ、多くの奏者を輩出している[1][2]。
楽曲「マンドリンオーケストラ曲」も参照
無伴奏独奏曲
ニコロ・パガニーニメヌエット
シルヴィオ・ラニエーリ（英語版）ハイドンの主題による変奏曲夏の唄
ラファエレ・カラーチェ前奏曲第1番前奏曲第2番前奏曲第3番前奏曲第5番前奏曲第10番前奏曲第11番前奏曲第14番前奏曲第15番大前奏曲コラールシルビア薔薇のメヌエット