大統領は他の閣僚と同じように、司法長官を任意に罷免することができる権限を有しており、司法長官の罷免は大統領によって行われることが一般的である。司法長官の不正行為が明らかになった場合には下院の過半数の賛成による弾劾（訴追）が可能であり、上院での弾劾裁判にかけられる。もし上院の裁判において有罪と判決された場合、司法長官は罷免される。上院における有罪判決は、有効投票の3分の2以上が必要である。このとき当該司法長官は、生涯にわたって司法長官への再就任を禁止されることもある。
歴史

司法長官の職位は、1789年の連邦議会で制定された。当初の司法長官の職務は「合衆国に関わる最高裁判所のあらゆる訴訟に対応し、大統領その他の省庁の長の要請に応じて法的問題への助言を行う」ことであった[1]。その後1870年、司法長官の職務遂行を支援するための機関として司法省が創設された。このように、設置から100年近くの間、担当する省がなかった経緯もあり、アメリカ合衆国の閣僚のなかで唯一職名が”Secretary of the･･”ではない。
歴代司法長官

代氏名在任期間大統領
1エドムンド・ランドルフ1789年9月26日1794年1月26日ジョージ・ワシントン
2ウィリアム・ブラッドフォード1794年1月27日1795年12月9日
3チャールズ・リー1795年12月10日1801年2月19日ジョージ・ワシントン
ジョン・アダムズ
4レヴィ・リンカーン1801年3月5日1805年3月2日トーマス・ジェファーソン
-ロバート・スミス（代理）1805年3月3日1805年8月6日
5ジョン・ブレッキンリッジ1805年8月7日1806年12月14日
6シーザー・オーガスタス・ロドニー1807年1月20日1811年12月10日トーマス・ジェファーソン
ジェームズ・マディソン
7ウィリアム・ピンクニー1811年12月11日1814年2月9日ジェームズ・マディソン
8リチャード・ラッシュ1814年2月10日1817年11月12日
9ウィリアム・ワート1817年11月13日1829年3月4日ジェームズ・モンロー
ジョン・クィンシー・アダムズ
10ジョン・バーリン1829年3月9日1831年7月19日アンドリュー・ジャクソン
11ロジャー・トーニー1831年7月20日1833年11月14日