各省大臣（＝主任の大臣）の外遊時等には、「国務大臣の代理には他の国務大臣が就く」という内閣法上の原則に基づき、直属の副大臣ではなく、他の大臣または内閣総理大臣がその臨時代理を務める（例：総務大臣臨時代理）。その人選は内閣総理大臣が行う。
各省大臣以外の「内閣官房長官・国家公安委員会委員長・内閣府特命担当大臣」の代理については、他の大臣が「事務代理」を務める（例：内閣官房長官事務代理）。ただし、内閣総理大臣自らが代行する場合は「事務代理」でなく「事務取扱」と称する（例：内閣官房長官事務取扱）。※上記「特命事項の担当大臣」の項で言及した担当大臣のうち、内閣官房（まれに省）の重要事項担当大臣については、内閣府特命担当大臣と異なり外遊時等に代理発令がされることはない。厳密には、総理の口頭指示等による一時的代行はあるのかも知れないが、少なくとも辞令のような公に分かる形で官報掲載された例はない。
副大臣は、直属上司である大臣・長官等の代理に指定されることはない。閣僚でない副大臣に法令への連署等をする最高権限がないためである。ただし、「内閣の一員たる国務大臣の権限」を必ずしも要請されない行為（例：省庁の代表者として式典で祝辞を述べる等）の場合は、直属副大臣や政務官が代行（参席・代読等）することが一般的である。
内閣法には第9条に「臨時に、内閣総理大臣の職務を行う。」、第10条に「臨時に、その主任の大臣の職務を行う。」とあり、一方で内閣府設置法と国家行政組織法には「副大臣（副長官）は・・・職務を代行する。」とある。「行う」と「代行する」という似て非なる文言で区別がなされており、副大臣・副長官の「代行する」権限が「省庁組織の長としての大臣権限」に限られ、より広汎な「主任の国務大臣の権限」までは及ばないと解する根拠の一つとなっている。
大臣と副大臣・大臣政務官等の任命方式・権限の差異
大臣は、1)内閣総理大臣から任命・天皇から認証される「国務大臣」としての官記（国務大臣に任命する）、2)総理から担当事務を命ぜられる「各省大臣・長官等」としての補職の辞令（例：総務大臣を命ずる、内閣府特命担当大臣を命ずる）、という二段階の任命方式が採られている。閣議においては例えば防衛大臣である国務大臣が司法改革など他省庁の閣議案件について（あくまで理論上ではあるが）深く意見を述べたり、当該他省庁の官僚に「一国務大臣として」何らかの指摘・要求等をすることも可能であり、「国務大臣」としての関与権限は国政全般に及ぶものとされる。
一方、副大臣と大臣政務官は、特定の省庁名を冠された官記又は辞令（例：内閣府副大臣に任命する、総務副大臣に任命する、財務大臣政務官に任命する）だけを受ける。副大臣は国務大臣と同様認証官であるため天皇の認証のある官記を受け、大臣政務官はそうでないという違いはあるが、どちらも国務大臣のような国政全般への関与を可能とする権限付与（二段階の辞令）は行われていない。
閣議では、各大臣は各省や特命事項の担当大臣としてだけでなく、広く天下国家を論じる国務大臣の一人として参画する。一方、副大臣会議では、副大臣は各府省の調整代表の高官として参加しており、国政全般を論じたり他府省の副大臣の提出した案件に対して必要以上の関与をすることはできない。
一部に、国務大臣の表記にならって「国務副大臣」のような表記をする向きがあるが、広汎な国務大臣の権限に比べ副大臣の地位・権限が限定的であることと矛盾する。「国務副大臣」の名称はいかなる法令にも存在せず、そのような辞令が発せられたこともない。各府省副大臣の総称は単に「副大臣」とするのが正しく、各種法令でもそのような取扱いがなされている。大臣政務官についても同様で、「国務大臣政務官」とするのは法的には誤りとなる。
詳細は国務大臣、副大臣及び大臣政務官規範を参照
詳細は罷免#国務大臣の罷免を参照
憲法の規定により、内閣総理大臣は他の国務大臣を任意に罷免することができる。これは、旧憲法下において内閣総理大臣の権限が極めて弱かったために軍部の独走を許したことへの反省からである。
在職中に死亡した国務大臣死亡年月日氏名内閣役職死因
1889年(明治22年)2月12日森有礼黒田内閣文部大臣他殺
1926年(大正14年)9月13日早速整爾第1次若槻内閣大蔵大臣病死
1936年(昭和11年)2月26日高橋是清岡田内閣大蔵大臣他殺
1945年(昭和20年)8月15日阿南惟幾鈴木貫太郎内閣陸軍大臣自殺
1973年(昭和48年)11月23日愛知揆一第2次田中角栄内閣大蔵大臣病死
1976年(昭和51年)1月15日仮谷忠男三木内閣建設大臣病死
1987年(昭和62年)1月25日玉置和郎第3次中曽根内閣総務庁長官病死
2007年(平成19年)5月28日松岡利勝安倍内閣農林水産大臣自殺
※ 内閣総理大臣を除く
大臣とは古来からの日本固有の高官職名である。明治期に太政大臣、左大臣、右大臣、内大臣、准大臣といった大臣職が改められ、内閣制度の発足とともに、内閣構成者としての内閣総理大臣及び国務大臣として新たな大臣の職掌が整備された。明治以降も昭和初期まで内大臣・宮内大臣の職が置かれたが、これは閣外の職位であり、国務大臣には含まれず内大臣府・宮内省にあって天皇を補佐する役目であった。
終戦後の昭和30年以降、自由民主党の結党以来、55年体制以降、派閥の論理で大臣が選任されてきた。政治家にとって大臣の職は権威の象徴であり、衆議院議員の場合当選回数5回の議員から派閥の均衡によって調整され、人格や能力もあるが、それ以上に派閥の力学で主に大臣が選抜されてきた。衆議院議員当選回数5回以上に達し、大臣を拝命していない政治家は大臣待望組といわれ、大臣になるために執念を燃やしたり、その地位にとらわれることを俗に大臣病といった。
記録
最年長在任記録国務大臣 - 高橋是清大蔵大臣 81歳6ヶ月（1936年2月26日在任）
戦後最年少就任記録国務大臣 - 野田聖子郵政大臣 37歳10ヶ月（1998年7月29日就任）
連続最長在任記録国務大臣 - 寺内正毅陸軍大臣 3442日間（1902年3月27日 - 1911年8月30日）
戦後連続最長在任記録国務大臣 - 竹中平蔵国務大臣 1980日間（2001年4月26日 - 2006年9月26日）
最短退任記録国務大臣 - 長谷川峻法務大臣 4日間（1988年12月27日 - 1988年12月30日）