事務次官等は、キャリア官僚の出世レースのゴールであり、一般に同期入省又は後年入省の事務次官が誕生するまでに、同年次のキャリア組は退官し、省内に唯一残った最古参のキャリア官僚が事務次官となる。ただし、法務省および外務省は例外である（後述）。
おおむね、行政職、法律職又は経済職の国家公務員採用I種試験（旧上級甲試験）を通過して省に採用された事務官のキャリアが事務次官に就任する。任期は存在しないが、慣例的に1年から2年とされており、それまでに勇退（依願退職）して後身に譲る慣行である。従来、任期の慣例を大きく越えることは稀であったが、近年は長期化の傾向であり、在任5年目に及び「異例の長期」と言われた防衛省（旧・防衛庁）の守屋武昌前防衛事務次官の例もある。
一般にいわゆるキャリア技官（技術系区分のI種試験（上級甲試験）を通過して採用された職員）は、事務次官に就任することは難しいのが現状である。多くの省庁では、一般的にキャリア事務官の就任するポストとキャリア技官の就任するポストははっきり区別され、技官が事務官のポストを侵すことはなく、事務次官が事務官のポストとみなされる場合は、技官は事務次官に達することができない。
例外として、旧建設省においては事務官と土木技官が交互に事務次官となる慣行が存在した。また、旧科学技術庁、旧北海道開発庁では主に技官が事務次官に就任した。中央省庁再編後は、国土交通省では旧建設事務官、旧建設技官（土木）、旧運輸事務官が順番に次官に就任し、文部科学省では旧文部事務官と科技庁出身の旧総理府技官が交互に就任している。省庁再編から2007年現在までに、技官出身者の事務次官就任実績は国土交通省2名（青山俊樹（現：水資源機構理事長）、佐藤信秋（現：参議院議員）。いずれも次官級の技監に就任している）、文部科学省1名（結城章夫）の3名のみである。
外務省では、外務事務次官経験者がその後大国又は国連等の重要な国際機関に派遣される特命全権大使を務めることが慣例で、多くの場合は最終的に在アメリカ合衆国大使を務めてきた。しかし、2001年頃に発覚した数々の外務省の不祥事を受けた改革において、次官経験者の自動的な大使任用慣行は改められた。ただし、政府は大使の任用は「適材適所の観点に立って」判断するとしており[6]、今後も次官経験者大使が誕生する可能性はなくなっていない[7]。
法務省における事務次官
法務省においては、検察庁が本省を飲み込むような人事体系が取られている。その理由は、検察庁が最高裁判所を頂点とする司法権に呼応する行政組織であるため、その人事体系も必然的に他省庁だけでなく裁判所をも見据えたものでなければならないためである。
最高裁判所長官は内閣の指名に基づき天皇が任命し（日本国憲法第7条第2項、裁判所法第39条第1項）、最高裁判所判事は内閣が任命し天皇がこれを認証し（裁判所法第39条第2項及び第3項）、高等裁判所長官は最高裁判所の指名に基づき内閣が任命し天皇がこれを認証するため（裁判所法第40条第1項及び第2項）、最高検察庁の最高幹部である検事総長、次長検事ならびに高等検察庁の長である検事長についても、裁判所の最高幹部の地位に準拠させ、認証官とすることが求められる（検察庁法第15条第1項）。（というよりもむしろ、弁護士も含め、裁判官と検察官はいずれも法曹であり、資格要件および養成システムは全て同一であるため、公務員である裁判官及び検察官については（在野法曹である弁護士の収入状況も見据えつつ）ほぼ同一の処遇体系を用意しておく現実的必要性があるからであろう。一方の処遇体系が他方の処遇体系に比して大きく劣位にあるとすれば、劣った処遇体系の職について人材の採用に支障を来たすことは想像に難くない。）
その反面、事務次官は一般的に各省における事務方のトップではあるが、その就任について、天皇による認証を必要としない。
そのため、法務事務次官は検事総長、次長検事、検事長の下位に位置させる必要が生じるのである。また、法務事務次官がこのように人事ピラミッドの「通過点」となる関係から、慣例的に検察官が就任するポストとなっている。検察官となる資格を有しない者が法務事務次官になる場合も想定はできるが、その場合、その者は検事総長・次長検事・検事長に昇格し得ないため（検察庁法第15条第1項、第19条）、法務省・検察庁の幹部人事調整の都合上、このようなケースが起こることはきわめて稀である。
検察官が法務事務次官に就任した場合、その就任期間は、慣例的に、検察官の職を一時離任する（ ⇒第159回国会法務委員会第15号これは、法務事務次官は法務省本省の事務方のトップであるが、そのものが同時に検察官の地位を有するとなると、検事総長、次長検事、検事長が、その法務事務次官の有する「検察官の地位の部分」に対して、検察庁法に基づき指揮監督をし得ることになってしまうためである（検察庁法第7条及び第8条参照）。（この説明は誤りである。法務省設置法附則の4項を見よ。事務次官以下法務省の幹部職員の大半は検事の身分を有したまま法務省に勤務している。なお、裁判官が法務省民事局や刑事局に勤務する場合は、その期間だけ判事または判事補の身分から検事の身分に転換した上で勤務する。これは一定期間法曹の身分にあることが任命要件になっている職（例えば判事の10年要件など）が存在するため、及び、公務員である法曹（裁判官及び検察官）は一般の公務員よりも高い給与体系によって処遇されているため（法務省勤務期間に給与体系の高い法曹としての身分を離れると退職金や年金の算定などの上で不利益になると推測される）、であろう。近年金融庁や法務省民事局などにおいて弁護士が勤務するケースが増えているが、弁護士の場合は近年の弁護士法改正により弁護士の資格を有したまま公務員に就任できるようになったため、弁護士としての身分を維持したまま官庁勤務を行うのが通例のようである。また、弁護士登録上も所属事務所を官庁に変更せず従前のままとしているようである。弁護士の任用がいわゆる任期付公務員法によるものであり、処遇体系が判検事と異なるのも一つの理由であろう。）
法務事務次官経験者が、後に検事総長・東京高等検察庁検事長・次長検事・大阪高等検察庁検事長といった最高検察庁のトップや巨大都市に所在する高等検察庁の検事長ポストに昇格する例が多々あり、これをもって法務事務次官の地位を巨大都市以外に所在する高等検察庁の検事長の地位よりも実質的に上位にあると考える考え方もある。しかし、検事長と法務事務次官との差異として、天皇による認証の有無や俸給額の多寡という明確な差がある反面、検事長相互間にあっては、いずれの検事長の任命権も内閣に留保されており（検察庁法第15条第1項）、法務大臣が単独で行使できる権限は補職先の決定にとどまり（検察庁法第16条第1項）、検察庁法上も検事長相互間の権限には差異がない（検察庁法第8条）などの点を見ると、巨大都市に所在する高等検察庁の検事長ポストとそうでない都市に所在する高等検察庁の検事長ポストに大きな差異を見出すことはできず、そこに前述のような法務事務次官を混ぜて考えること自体に無理がある（もっとも、その抱える地域の特殊性から、東京高等検察庁検事長の俸給は、他の検事長よりやや多めになっている）。そのため、法務事務次官は、検察官にとって将来的に大きなステップアップが望めるポストであるというに留めておく事が望ましいと考えられる。