世界初の推理小説は、一般的にはエドガー・アラン・ポーの『モルグ街の殺人』(1841年)であるといわれる。しかし、その数年前にチャールズ・ディケンズも半推理・半犯罪小説の『バーナビー・ラッジ』を書いているほか、100年ほど前に書かれたヴォルテールの『ザディグ』(1747年)の一編『王妃の犬と国王の馬』も推理に重きが置かれている。さらには『カンタベリー物語』、『デカメロン』、聖書外典『ダニエル書』の『ベルと竜』やヘロドトスの『歴史』にも推理小説のような話が収録されており、どこに端を発するかという議論は果てしない。
しかし、確実にいえるのは、1830年代にイギリスにおいて警察制度が整ったことにより、犯罪に対する新しい感覚が生まれたということである。1830年代に一世を風靡したニューゲート小説は、ニューゲート監獄の発行した犯罪の記録を元に書かれた犯罪小説であり、後の近代推理小説が生まれる基盤を作ったといえるだろう。
また、権利と義務の体系が整い、司法制度や基本的人権の尊重がある程度確立した社会が成立していることも、推理小説に欠かすことのできない要素であると考えられる。
推理小説と言うジャンルの確立には警察組織の存在が大きかった。法を手に犯罪者を捕らえる新しい形のヒーローが誕生した裏側には、また急速に都市化が進んでいくイギリスにおいて、都市の暗黒部に対する一般市民の不安が高まっていた、という歴史的事実も見逃せない。また都市化に伴うストレスのはけ口として、「殺人事件」というモチーフの持つ非日常性が必要とされていたという見方もある。
推理小説が誕生した後、さまざまなアイデアが生み出され、下記に挙げられるようなミステリーにおける「基礎・応用などの土台」が作られていった。また、科学・医学の進歩に伴い、科学的な知識を用いたトリックなども、次々と考え出されていった。
また、ミステリー表現の世界は小説だけにとどまらず、映画・ドラマ・舞台・漫画・ゲーム……などさまざまなジャンルに波及し、表現の幅を広げていった。
下記の分類は、互いに相反するものとは限らず、一つの作品が以下の複数の分類に当てはまることがある。
事件の解明に必要な要素、犯人、犯行方法、動機のうち、どれの解明を重視するかによる分類。この3つの分類は、推理小説の興味の対象が、単なる犯人当てからトリックの面白さへと移り変わり、そして社会派へつながる動機重視に変わっていく、という推理小説の発展史と重なる。
フーダニット (Whodunit = Who (had) done it)
誰が犯人なのか
ハウダニット (Howdunit = How (had) done it)
どのように犯罪を成し遂げたのか
ホワイダニット (Whydunit = Why (had) done it)
なぜ犯行に至ったのか
推理小説のなかではもっとも一般的でかつもっとも古典的なジャンルである。事件の手がかりをすべてフェアな形で作品中で示し、それと同じ情報をもとに登場人物(広義の探偵)が真相を導き出す形のもの。第二次世界大戦前の日本では、「本格」以外のものは「変格」というジャンルに分類された。なお、本格という呼び方は日本独自のもので、欧米ではパズラーや上述のフーダニットと称される。
本格であるためには、解決の論理性だけではなく手がかりが全て示されること、地の文に虚偽を書かないことが要求される(わざと決定的な事実を明示せず曖昧に表現したり、登場人物の視点から登場人物自身の誤解を記述するのは問題がない)。たとえば、ある作品では列車に乗り合わせた子供の性別が問題になるが、題名にも地の文にも「男の子」「女の子」といった記述は一切なく、伏線として子供の振るまい(特定の玩具に興味を示す)が記述されている。もちろん作家はそれが伏線であることを隠蔽する努力も怠っていない。ただし、現代の視点では、ポオの『モルグ街』には若干アンフェアな記述がある他、アガサ・クリスティの『アクロイド殺し』はフェアかアンフェアかについて、有識者の間で議論を醸した。
エラリー・クイーンの国名シリーズのように「ここまでの部分で、推理に必要な手がかりは全て晒した。さあ犯人(もしくは真相等)を推理してみよ」という「読者への挑戦状」が明示的に含まれる作品もある。密室殺人を始めとした不可能犯罪を扱った作品の多くはこのジャンルに含まれる。
詳細はクローズド・サークルを参照
なんらかの事情で外界とは隔絶された状況下で事件が起こるストーリー。過去の代表例から「嵐の孤島もの」「吹雪の山荘もの」などとも呼ばれる。 アガサ・クリスティの『そして誰もいなくなった』が代表作。
孤立した環境下ということで現実的な警察機関の介入、科学的捜査を排し、また容疑者の幅を作中の登場人物に限定できることから、より純粋に「犯人当て」の面白味を描ける利点があり、本格派(上述)志向の作者や読者から好まれる傾向がある。一方で探偵役やワトスン役も含めて、登場人物はみな、警察機関の保護を頼れないまま殺人犯(かもしれない人物)と過ごすことになり、そうした心理サスペンスを盛り込んだ作品も多い。
「犯人が自分の犯行に気付いた相手をやむをえず殺害することになる」などの理由付けによって、連続殺人事件へ発展する場合が多い。その場合、犯行が進むにつれ、生存者が減少し、その中に犯人がいる(はずである)こともサスペンスを呼ぶ。
逆に言えば犯人にとっては「容疑者が限定される状況」で犯行を繰り広げるということであるため、なぜわざわざそうした危険を冒すのかという批判もあるが、それにいかに「合理的な動機」を与えるかもこのジャンルの醍醐味といえる。