事務次官は、各省にあっては省の長である大臣を助け、省務を整理し、各部局及び機関の事務を監督する（国家行政組織法第18条第2項）ことを職務とし、内閣府にあっては、内閣府の長である内閣総理大臣に加えて、内閣官房長官、特命担当大臣を助け、府務を整理し、内閣府本府の各部局及び機関の事務を監督する（内閣府設置法第15条第2項）ことを職務とする。
任命は、任命権者である各大臣（内閣総理大臣（内閣府）および各省大臣（各省））が行うが、事務次官の任命に際しては、閣議による事前承認が必要とされている。また、幹部人事について各省の独断を避け、政府全体の立場から官邸によるコントロールを行うために、1997年以来、人事案は閣議にかけられる前に、内閣官房長官と官房副長官3名の4人によって構成される人事検討会議による了承を経ることになっている。
事務次官は、各省においてキャリアと呼ばれる高級官僚の中でも最高位にあり、職業公務員によって構成される官僚機構のトップである。権能においては政策決定における決定的なものを有しないが、その実力は各省の中で非常に大きいとされ、官僚主導とされる日本の行政において実質的な最終決定権を有するともいわれる。これは、高級官僚中の第一人者である事務次官が、官庁内における人的関係を知悉し、それを基にした人事調整能力及び当該官庁における他の官僚からの信任に裏付けられたものといえる。
各府省の事務次官は、その調整体として内閣官房副長官（事務担当）を主催者とする事務次官等会議（各府省事務次官及び内閣法制次長、金融庁長官、警察庁長官をもって構成）を有する。同会議は、閣議の事前調整を担っており、事実上の政府全体の意思決定機関と言われることもある（詳細は事務次官等会議を参照）。
事務次官の設置は、明治に内閣制度のもとで各省に置かれた次官に遡る。当時から次官は、大臣の下で事務方を統括する高等文官試験出身の官僚のトップであった。これが1949年（昭和24年）6月1日の国家行政組織法施行により、事務次官に改称[2]されて、現在に至っている。なお、国家行政組織法のもとでは長く国務大臣を長とする庁（大臣庁）が置かれており、これらの庁においても事務方の長として事務次官が置かれ、各省事務次官と同等の待遇を受けていた。しかし、2001年（平成13年）の中央省庁再編と2007年（平成19年）の防衛庁の省昇格に伴い大臣庁が消滅したため、現在はこのような事務次官は存在しない。
また、以前は、事務次官と同格の大臣補佐役として国会議員から政務次官が就任していたが、一般に当選2〜3回の若手議員が政策勉強と人脈作りの目的で就任していたに過ぎず、お飾り以上のものではないと言われていた。これが2001年の省庁再編に伴って大臣に準ずるポストの副大臣と従来の政務次官と同待遇ながら役割を改められた大臣政務官に改められ、現在の事務次官は、これら政治任用の政治家のポストの下で事務を統括する役職に位置付けられた。しかし現時点においては、前者は中央省庁再編による大臣ポスト削減の補償であり、後者については、従前の政務次官の役割以上のものではないと評価されるように、事務次官を頂点とする官僚機構を政治が統制するという本来の目的は十分果たされていないという見方もされている。
事務次官の身分は一般職の国家公務員である（防衛省の防衛事務次官を除く[3]）。一般職は、一般職の職員の給与に関する法律（一般職給与法）に基づいて俸給月額が決定される（検察官は除く）が、事務次官は同法による俸給月額のうち最高額の指定職8号俸を支給される[4]。
なお、一般職の職員のうち、事務次官以外で同法に基づく指定職8号俸を支給される官職には、会計検査院事務総長、人事院事務総長、内閣法制次長、宮内庁次長、警察庁長官、金融庁長官がある。これらの内、すでに触れたように内閣法制次長、警察庁長官、金融庁長官は、事務次官等会議の構成員でもある。一方、これらと異なって事務次官等会議の主宰者である内閣官房副長官は、事務次官よりも数段高い副大臣相当の待遇の特別職国家公務員である。
また、特別職及び検察官で事務次官と俸給等の待遇が同等の官職には、内閣官房副長官補、内閣広報官、内閣情報官、常勤の内閣総理大臣補佐官[5]、国家公務員倫理審査会の常勤の委員、公正取引委員会委員、国家公安委員会委員、式部官長、大使・公使の一部、統合幕僚長、検事の一部（検事1号棒）がある。国会においては、各議院事務局の事務次長、衆議院調査局長、各議院法制局の法制次長、国立国会図書館副館長が、裁判所においては、判事の一部、最高裁判所事務総長がこれらに相当する。
事務次官等は、キャリア官僚の出世レースのゴールであり、一般に同期入省又は後年入省の事務次官が誕生するまでに、同年次のキャリア組は退官し、省内に唯一残った最古参のキャリア官僚が事務次官となる。ただし、法務省および外務省は例外である（後述）。
おおむね、行政職、法律職又は経済職の国家公務員採用I種試験（旧上級甲試験）を通過して省に採用された事務官のキャリアが事務次官に就任する。