テネシー州は地理的かつ法的に3つの大区分に分けられている。すなわち東テネシー、中部テネシー、西テネシーである。州憲法では5人いるテネシー州最高裁判所判事のうち各大区分の出身者が2人を越えてはならないとしており、特定の委員会や理事会でも同様な規則を宛てている。一般的に、西テネシーと中部テネシーの分離線をテネシー川、中部テネシーと東テネシーの分離線をカンバーランド高原とする。

地形的には6つに区分されている。すなわちブルーリッジ山脈、アパラチア山脈・渓谷地域、カンバーランド高原、ハイランド・リム、ナッシュビル盆地、ガルフ海岸平原である。州内では8,350個の洞穴が登録されており、国内最大となっている。
東テネシー東テネシーの領域図

州東端にあるブルーリッジ地域がノースカロライナ州との境を形成している。この地域はブルーリッジ山脈の高山と岩が多い地形が特徴である。ブリーリッジ山脈はグレート・スモーキー山脈、ボールド山地、ユニコイ山地、ユナカ山地、ローン高原、アイアン山地など幾つかの支脈に分かれている。

ブルーリッジ地域の平均標高は5,000フィート (1,500 m) である。州内最高地点であるクリングマンズ・ドームがこの地域にある。この地域はほとんど人が住まず、チェロキー国立の森、グレート・スモーキー山脈国立公園、さらに幾つかの連邦保護原生地と州立公園で保護されている。

ブルーリッジ地域から西に約55マイル (88 km) 広がっているのがリッジ・アンド・バレー地域であり、多くの水流が合わさってテネシー渓谷のテネシー川になっている。この地域には肥沃な流域平野があり、その間をベイズ山やクリンチ山など森に覆われた尾根が分けている。テネシー渓谷の西部では低地が広く、尾根が低くなり、グレート・バレーと呼ばれている。このバレーには多くの町があり、州内で第3の都市ノックスビルと第4の都市チャタヌーガがあるなど、都市化された地域3つのうち2つがある。

カンバーランド高原がテネシー渓谷の西に立ち上がっている。深く切り込んだ谷で分けられた頂上の平たい山があるのが特徴である。標高は1,500フィート (450 m) から2,000フィート (600 m) である。
中部テネシー中部テネシーの領域図

カンバーランド高原の西にはハイランド・リムがあり、ナシュビル盆地を囲む高原になっている。その北部はタバコの生産量が多いことで知られ、ペニーロイヤル台地と呼ばれることもある。州内では主に南西部にある。ナッシュビル盆地は肥沃な農地になっており、野生生物も非常に多様である。

中部テネシーは18世紀後半から19世紀初期に、バージニア州からアパラチア山脈を越えて入ってくる開拓者の共通目的地になっていた。ナチェズ・トレイスと呼ばれる重要な交易ルートは、インディアンが造り多世代にわたって使われていたものだが、中部テネシーとミシシッピ川下流の町ナチェズとを繋いでいた。このルートは現在、ナチェズ・トレイス・パークウェイと呼ばれる景観道路の元になっている。

高木であるアメリカン・チェスナットの最後の生き残りがこの地域で自生している。この木は胴枯れ病に強い樹木を育成するために役立っている。

中部テネシーには州政府があることに加え、人口が集中し交通の中心になっている。州都ナッシュビル市、クラークスビル、マーフリーズボロなどの大都市がある。ナッシュビル市から半径600マイル　(1,000 km) の範囲にテネシー州の人口の半分が住んでいる[25]。州間高速道路24号線、40号線、65号線がこの地域を3分している。
西テネシー西テネシーの領域図

ハイランド・リムとナシュビル盆地の西は、ガルフ海岸平原であり、ミシシッピ湾状形成部が含まれる。ガルフ海岸平原はメキシコ湾に始まり、北のイリノイ州南部まで広がる広大な平原の一部である。テネシー州内では、東のテネシー川から西のミシシッピ川までの間であり、3つの部分に分けられている。

東の部分は幅約10マイル (16 km) であり、テネシー川西岸に沿った丘陵性の地域である。その西には、ミシシッピ川まで広がるうねりのある丘陵と水流の幅広い地域である。この地域はテネシー・ボトムとも呼ばれる。西端にあるメンフィス市では、ミシシッピ川を見下ろす険しい崖でテネシー・ボトムが終わっている。その西はミシシッピ川沖積平野であり、標高は300フィート (90 m) 未満である。この低地は氾濫原と湿地であり、ミシシッピ・デルタと呼ばれることもある。西テネシーではメンフィス市が経済の中心であり、州内最大の都市でもある。

1818年にチカソー族がテネシー川とミシシッピ川の間の領土を譲渡した時まで、西テネシーの大半はインディアンの土地だった。このチカソー族譲渡の一部がケンタッキー州に入っており、現在はジャクソン購入地と呼ばれている。
公有地グレート・スモーキー山脈国立公園にあるル・コント山頂上からの眺め、2007年7月撮影

国立公園局の管轄地域には以下が含まれる。

アンドリュー・ジョンソン国立史跡（グリーンビル市）

アパラチアン・トレイル

ビッグ・サウス・フォーク国立河川保養地域

チカマウガとチャタヌーガ国立軍事公園

カンバーランド・ギャップ国立歴史公園

フットヒルズ・パークウェイ

ドネルソン砦国立古戦場と国立墓地（ドーバー近郊）

グレート・スモーキー山脈国立公園

ナチェズ・トレイス公園道路

オベッド天然景勝河川（ワートバーグ近郊）

オーバーマウンテン・ビクトリー国立歴史道

シャイロー国立軍事公園と国立墓地（シャイロー）

ストーンズ川国立古戦場と国立墓地（マーフリーズボロ市）

涙の道国立歴史道

この他、広さ534 km2（132,000エーカー）を占める54か所の州立公園、さらにグレート・スモーキー山脈国立公園の一部とチェロキー国有林、カンバーランド・ギャップ国立歴史公園がテネシー州内に設けられている。