なお、支社及び鉄道部の管轄は以下のように分かれている。
京都 - 園部間…JR西日本京都支社
園部 - 和田山間(園部駅構内除く)…JR西日本福知山支社(直轄)
和田山 - 居組間(和田山駅構内除く)…JR西日本福知山支社豊岡鉄道部
居組 - 伯耆大山間(両端の駅構内除く)…JR西日本米子支社鳥取鉄道部
伯耆大山 - 西出雲間…JR西日本米子支社(直轄)
西出雲 - 益田駅間(西出雲駅構内除く)…JR西日本米子支社浜田鉄道部
益田 - 小串間(両端の駅構内除く)、長門市 - 仙崎間…JR西日本広島支社長門鉄道部
小串 - 幡生間…JR西日本広島支社下関地域鉄道部
嵯峨野線としてのラインカラー(紫)のほか、広島支社では独自のラインカラー(抹茶色)が設定されている。また、ラインカラーを事実上設定していない米子支社も、運賃表路線図では管内の本線格として青色で記載している(他の路線は灰色)。また、岡山支社ではラインカラーを設定せず、濃い灰色で表示している。
営業キロこそ日本最長の路線ではあるが、起点から終点までを通して走る優等列車の設定が史上一度もない本線の一つとなっている。区間によって乗客の流動に大きな偏りがあり、東西方向の交流が必ずしも盛んでないことや、旧国鉄や西日本旅客鉄道が、山陽新幹線開業以降、山陰本線沿いの各都市から直接山陽新幹線に至る路線(陰陽連絡線)を強化してきた結果である。
山陰と瀬戸内側を結ぶ線には福知山線、伯備線等の電化された路線や智頭急行線のような高速新線があるが、山陰の横同士の連絡は最近まであまり考慮されず、電化もそれらの延長的存在でつぎはぎ状態で行われた。後年の高速化工事も同様で、高速化された区間とそうでない区間がつぎはぎ状態になっている。それでも民営化後は、それまでバスの独占状態であった鳥取 - 倉吉 - 米子 - 松江 - 出雲市のローカル輸送に力を入れるなど、以前に比べれば改善がみられる。
幹線扱いの長大路線でありながら近代化が遅れたことや、ローカル色あふれる風光明媚な車窓風景とあいまって、鉄道ファンであった作家・宮脇俊三は「偉大なるローカル線」と山陰線を評した。この卓抜な表現は山陰線の実情をよく表したものとして、大方の鉄道ファンから賛同を得ている。
長大路線だけに、沿線には温泉地が多く、古くから知られた温泉が数多く湧出している。
国鉄時代は、ほぼ全線を通して運転されるような長距離列車が多く見られたが、現在はおおむね下記の区間に細かく運転系統が分かれている。
なお、京都 - 園部間を除きほとんどの区間の各駅停車や快速列車でワンマン運転を行っている。
京都 - 園部間
嵯峨野線の愛称がある。アーバンネットワーク圏内のため旅客数・列車本数とも多いが、一部を除き、ほとんど単線であるため、朝ラッシュ時の輸送力は飽和状態に近い。中には、単線区間における列車行き違いを亀岡駅から日吉駅まで8駅連続で行う列車もある。現在、2010年春の完成を目指して京都 - 園部間の完全複線化工事中(但し、京都 - 丹波口間の内、京都駅ホームから山陰本線・貨物駅分岐点までの数百メートルの区間は線路施設の地形的・物理的関係上、単線のままとなる)であり、駅設備などの近代化が進んでいる。
園部 - 福知山間
電化および高速化工事が行われ、特急の所要時間は短縮された。しかし、普通列車は行き違いや追い抜きのための停車時間が長くなり、また、区間内ではカーブが多く、速度制限があるため、所要時間はあまり短縮されていない。なお、綾部駅 - 福知山駅間は舞鶴線・小浜線方面と福知山線の連絡のため、「特急リレー号」も運行されている。運行本数は毎時1 - 2本程度。普通列車は一部を除きワンマン運転を実施しており、京都直通がある朝夕の一部を除いて園部 - 福知山間で折り返し運転を行う。
福知山 - 豊岡・城崎温泉間
福知山線の延長的存在として京都 - 園部間よりも早く電化されて、大阪・京都方面からの特急が輻輳している。しかし、高速化改造されておらず、主に福知山 - 上夜久野間では急曲線も連続することから特急も速度を落として運転している。この区間には対向列車待ち合わせのための宿南信号場がある。かつては大阪からロングランで直通する普通列車もあったが、現在は存在しない。和田山以北では播但線の特急も乗り入れている関係や、観光シーズンになると臨時列車の運行や乗降に時間を取られ、遅延が発生することが多い。この区間は毎時1 - 2本程度運行されている。普通列車は一部を除きワンマン運転を実施している。早朝に豊岡からの城崎温泉方面の列車がある。ラチス式桁(格子状桁)
城崎温泉(豊岡) - 浜坂間
城崎温泉駅から先は非電化となり、一層ローカル色が濃くなる(本数も1 - 2時間に1本程度)。また、日本で3か所に現存するラチス式桁を持つ竹野川橋梁があり、浜坂駅手前の田君川橋梁もラチス桁が残っている。