黒曜石や火打石などは打製石器の材料として利用され、それ以外のさほど脆くない岩石からは磨製石器が作られたが、これらの石を材料に製作された石器が、様々な地域で普遍的に出土している。黒曜石や火打石・石英を含む岩石は、打撃を加える事で薄く鋭く剥離し、その外縁が刃物として利用できるだけの鋭さを持つ。鋭利さに注目すればこれらは砥石で砥いた金属製の刃物を凌駕するものである。
動物の骨や角は弾力性があり、また十分に硬いため、古くはナイフの材料に、現代ではナイフの柄の材料に用いられる。骨の主成分はリン酸カルシウムや炭酸カルシウムであるが、その他にも様々な成分が密接に関係して、十分な強度を持っている。このため磨製石器よりも更に精細なナイフを製作可能である。反面、鋭さに欠け、切れ味はあまりよくなく、また耐久性も鉱石に比べると経年変化に弱い。その他、材料となる骨の大きさで製作可能なサイズも決まるため、あまり大型の物を作る事が出来ない。
青銅は、融点が低くて比較的精錬しやすい金属である銅と錫等の合金であるが、そこそこの耐久性があり、また加工も容易であるため、長く使われた歴史を持つ。これら青銅器のナイフ類は石のナイフのように簡単に砕けたりせず、骨などよりも硬いため、非常に便利が良く、広く用いられた。しかし硬度の面で難があり、やがて鉄器が普及するにつれて、次第に姿を消していった。
鉄や、それを浸炭して作られる鋼は、近代に至るまで、広くナイフに利用され、その切れ味は研ぎ易さとあいまって、今日に至っても非常に高く評価されている。手入れさえ十分なら素材自体が入手し易く安価であるため、必要な機能を安価に実現できる。しかしこれらの素材は良く錆を生じるため、動物解体用や調理用の刃物にはあまり適さないことから、現在ではステンレス鋼が使われることも多い。
炭素鋼系がよいのかステンレス鋼系が良いのかはナイフの製造方法や使用方法を総合して考えると一長一短がある。ステンレス鋼も種類によって性質が異なり、いずれが良いかはユーザーのニーズと共にナイフメーカーの個別的選択にかかっている。そのため鋼材メーカーは幾つかの材料を取り揃えて販売をしている。ただ、機能性の高い鋼材はそれだけ高価な傾向がある。
一般向けに販売されているポケットナイフなどでは、グラインダーによる削り出し製法が主流になった関係で、炭素鋼（特に鍛造鋼）は少数派となりつつある。しかし研ぎ易く手入れさえよければ切れ味を維持することに向くため、ヨーロッパなどの伝統的なナイフメーカーが炭素鋼のナイフを製造している他、電工ナイフの中にもケーブル加工でビニール皮膜を切削する際「押し切る」という形で常に鋭さを求められる事から、炭素鋼のものが出回っている。
浸炭の過程で鍛造工程が入るナイフも多く、この鍛造工程如何でもナイフの性能・性質が左右される。鍛造工程の中にはダマスカス鋼のように、他の金属との重ね合わせで強度を付与する場合もある。日本刀のような複合構造をもつナイフも、ナイフビルダーによって製作されている。
ステンレス鋼は鋼材の一種であるが、一口にステンレスといっても、それを構成する金属元素の組成によって、様々な特性を持つ。ステンレスは一定の粘りがある事からグラインダーによる削り出し製法（R・W・ラブレスのストック・アンド・リムーバルが有名）に向き、大量生産する上でも有利である。また意匠を凝らしたナイフの製造も可能であることから、現代の主要なナイフメーカーから個人のカスタムナイフ製作者まで幅広い層に受け入れられている。
ステンレス製のナイフは多くの場合、鉄や鋼の刃物に比べ、研いだ時にバリが残りやすく、上手に研ぎ難い。これはステンレスがある程度、粘りを持っているために研いだ際に切っ先からバリが反り返って取れ難くなるためであるが、特にナイフに使われる素材では、耐衝撃性など耐久性が重視されるために、この傾向が強い。このバリを取らないと、刃物としての切れ味は格段に落ちる。これをきれいに取り除くためには熟練を必要とするが、簡単な方法としては、片側を重点的に研いで、反対側は刃先から峰の方向に砥石の上で軽く滑らせて数回、研ぎ落とす方法である。ただこの時に刃の角度をきちんと一定にしておかないと、ハマグリ刃となって、非常に切れ味を落とす事にも成りかねないため、注意が必要である。刃物店などでは有償の研ぎサービスを行っている店舗も見られる。
高級とされるナイフには、所定の組成を持つ炭素鋼やステンレス鋼が使われる。組成の中で最も重要なのはカーボン、クロム、モリブデン、タングステンの配合比である。それぞれに特性が違い、用途によって使い分けられる他、価格的にも大きな差を生むこともある。
炭素鋼
W2鋼
JISSKS-43/44鋼。バナジウムを0.1?0.25%ほど含み、衝撃に強く欠けたり折れたりし難いことで知られる。反面、錆る。
O1鋼
JIS SKS-3/31鋼。マンガンを0.9?1.2%、タングステンを0.5?1%含み、加工しやすく刃持ちが良い。アメリカの高級ナイフメーカーであるランドールで使用されていることで有名である。
D2鋼
JIS SKD-11鋼。日立規格ではSLDもしくはSLD2.シリコン0.45%、マンガン0.35%、バナジウム0.9%、モリブデン0.8%含み、刃持ちが良く耐熱性が高い（摂氏430度まで）。反面錆に弱い。アメリカの一流カスタムナイフメーカーに利用者が多い。また、ファクトリーナイフでの使用が増えつつある。
ステンレス鋼
銀紙鋼
日立金属が開発した材料で、カミソリメーカーではGINと呼ばれ世界シェアの50%以上を占める。ナイフメーカー表示では銀紙X号と表示されることが多い。生産量も多く安価であるため、家庭用の刃物一般やいわゆるマスプロナイフ（大量生産のナイフ）でも良く使われているが、加工性が良いためナイフビルダーの中にもこれを使う者もいる。
440A鋼
アメリカ合衆国の成分規格。カーボンが0.6%と少ないため硬度はやや低く、ナイフ用鋼材としては最低限の質。錆に強いため、包丁や安価な大量生産のナイフに多く用いられる。
440C鋼
JIS名も同じ。シリコンとマンガンを1%含むほか、リン0.4%、クロム17?18%、モリブデン0.45%を含む。腐食に強くほとんど錆が出無いが、やや硬度・耐磨耗性・耐熱性に難がある。ただし日常的に使うナイフでは価格も安く、研ぎやすいため扱い易い素材と言える。一般の刃物専門店で販売されている若干値の張る大量生産のナイフでは、この素材のものも多い。
154CM鋼
JIS名は無い。シリコン0.3%、マンガン0.5%、クロム14?14.5%、モリブデン4%を含む。米クルーシブル社の商品名で、耐熱性・耐磨耗性が高く腐食耐性も440Cに次ぐ。高価なカスタムナイフに使われる。ジェットエンジンの軸受けに使われたこともあるなど高信頼性で知られている。ただし加工性は低く、一般の砥石では砥ぎ難い点は、ナイフ素材としてはやや難があるかもしれない。ラブレスがATS-34の前に使用していた鋼材であった。ATS-34の普及により長く使用されなくなっていたが、アメリカでは一時期、同国の鉄鋼輸入規制により日本製であるATS-34の輸入が困難になったことから再び使用するメーカーが増え、規制解除されてからも使用され続けている。