国鉄のJRグループへの移行に際し、全国6つの会社に分割された旅客事業とは異なり、貨物事業は全国規模での営業を続けることとなり設立された、JR会社法に拠る特殊会社である。一方で北海道旅客鉄道（JR北海道）、四国旅客鉄道（JR四国）と同様、経営基盤が弱いことから、独立行政法人鉄道建設・運輸施設整備支援機構国鉄清算事業本部（発足当初は日本国有鉄道清算事業団）が全株式を保有しており、現在までのところ株式上場の目途は立っていない。

設立の際、JR貨物自身が第一種鉄道事業者として保有する路線は必要最小限に抑えられた。JR貨物が第一種鉄道事業者となっている区間は2021年4月1日時点では8線区の35.3kmである[1]。一部の貨物路線はJR貨物が所有しているが、両端が旅客線に接続する貨物線や、旅客化する計画のある路線、廃止が決定している路線は、その地域を管轄する旅客鉄道会社が保有することとされた。そのため、JR貨物が列車を運行する路線のほとんどは、鉄道施設を保有する旅客鉄道会社の路線や、JR路線を転換した第三セクター鉄道路線の第二種鉄道事業者となっており、それらの会社に線路使用料を払って貨物列車を運行している。旅客鉄道会社への使用料は「アボイダブルコスト」によって決められている。新幹線開業に伴う並行在来線区間の第三セクター鉄道会社への使用料は移行前に比べ上昇しており、その差分について鉄道建設・運輸施設整備支援機構から補填を受けている。旅客会社（東日本旅客鉄道 = JR東日本）の機関車による貨物列車

貨物列車の運行については、基本的に自社の乗務員や機関車を使って行っているが、路線によっては旅客会社の乗務員や機関車で運行する場合もある。また、以前は逆にJR貨物の乗務員や機関車で旅客列車を運行する場合も多数あった。旅客会社の客車をJR貨物の機関車が牽引していた例として、客車時代の夜行急行「ちくま」の名古屋駅 - 長野駅間や、「かいもん」の門司港駅 - 西鹿児島駅間、磐越西線、筑豊本線などがある。しかし、少数の夜行寝台列車（ブルートレイン）を除き、客車による定期旅客列車が消滅した後は、一部の臨時列車や車両故障時の救援で運行される程度である。なお、関門トンネルを潜る下関駅 - 門司駅間を走行する客車列車の牽引をJR九州から受託しており、同社所属の機関車EF81形400番台の2両もJR貨物の門司機関区に常駐し、この区所が唯一定期運転でJR貨物の乗務員が旅客列車に乗務する運転区所となっていたが、対九州直通客車列車の廃止以後は団体臨時列車のみの運用となっている。

一方、貨物輸送量は、高速道路整備による大型トラックや、空港整備による航空機での貨物輸送の増加、さらには国鉄時代のスト権ストによる国鉄貨物への信頼失墜などの影響を受けて、年々減少を続けていた。かつて会長を務めた伊藤直彦は、日本において本来鉄道が得意とする500km以上の遠距離輸送においても鉄道貨物が衰退していった理由を幾つか列挙した際、その一つに、このストによる信頼失墜を挙げている[6]。一旦荷主が離れた鉄道貨物の復権は容易ではなく、大阪のある大手メーカーには当時「もう二度と鉄道は使わない」とまで言われたエピソードも残っている[7]。しかし近年は環境に負荷をかけないモーダルシフト政策や、深刻になっているトラック運転手不足問題から、鉄道貨物減少に歯止めがかかり、僅かながら増加に転じた。