一般的に国務大臣という場合には内閣総理大臣を含めていう時とそうでない時がある。内閣総理大臣は国会の議決により指名され、天皇から任命される（親任式）。
内閣総理大臣以外の国務大臣は内閣総理大臣により任命され、天皇から認証される（認証官任命式）。なお、宮中の親任式及び認証官任命式で授与される「官記」は単に内閣総理大臣又は国務大臣としての任命・認証であり、どの行政事務を担当するかの辞令（例：「総務大臣を命ずる」）は式後に官邸で内閣総理大臣から発令される（これを「補職」・「補職辞令」という）。
外交上の敬称としては交渉国との間で主に大臣閣下という敬称と本官に相当する本大臣という自称で呼び合うこととなっている。また、軍部を所管する大臣はその就退任に栄誉礼を受ける。
なお、国会議員でペンネーム（タレント時代などの芸名や、判り易く一部をひらがなにする）等にしてある場合、国務大臣に任命される際には戸籍に登録されている本名で任命を受け、連署・署名など国務大臣として行う場合は本名でなくてはならない。
国務大臣はその在任中、内閣総理大臣の同意なくして訴追（※）されない(憲法第75条)。法律及び政令には国務大臣の署名を必要とするなど様々な制約や特権がある。
現在、内閣はじめ省庁における大臣以下の政治ポストはかつての政務次官が副大臣や大臣政務官などに再編され、省内における政治任用職も増えたことで、政治主導の流れを強くしつつある状況にある。総理以外の大臣秘書官は定数1名で官庁の外から政治的任用される（通例はその大臣の議員第一秘書などが務めることが多い）。
当該省庁の職員も大臣秘書官と呼ばれるポストに就いて大臣を補佐するが、これは厳密には大臣秘書官事務取扱といい、正規の法定秘書官ではない。大臣以下副大臣・政務官の品位と倫理を維持するため、大臣規範などを定め、汚職の防止や兼職の禁止など自律的な制約を定めている。
国務大臣は両議院での議席の有無に関わらず、議案について発言するために議院に出席をすることが出来る。答弁または説明のために出席を求められた際は出席しなければならない。※ 首相の同意なしで逮捕された例はある。1948年に栗栖赳夫国務大臣（経済安定本部総務長官兼物価庁長官兼中央経済調査庁長官）が逮捕された時、東京地裁は「訴追は、逮捕・勾留とは関係ない」との判断を下し、逮捕令状を交付した。
内閣法では内閣総理大臣を除く国務大臣の数は原則14人とされ、必要であればさらに3人まで任命できることとなっている。
内閣総理大臣 - 国会から指名される内閣の首長。内閣府の長。
総務大臣 - 総務省の長。
法務大臣 - 法務省の長。
外務大臣 - 外務省の長。
財務大臣 - 財務省の長。
文部科学大臣 - 文部科学省の長。
厚生労働大臣 - 厚生労働省の長。
農林水産大臣 - 農林水産省の長。
経済産業大臣 - 経済産業省の長。
国土交通大臣 - 国土交通省の長。
環境大臣 - 環境省の長。
防衛大臣 - 防衛省の長。
内閣官房長官 - 内閣官房の事務を統轄する。内閣府の事務を総括する。
国家公安委員会委員長 - 国家公安委員会の会務を総理し、国家公安委員会を代表する。
内閣府特命担当大臣 - 必要に応じ内閣府に置かれるが、「沖縄及び北方対策担当」と「金融担当」は、必ず置かなければならない（内閣府設置法第10条・第11条）。
無任所大臣 - 上記のいずれの事務も担当しない大臣を置く場合の俗称。戦前には「班列」と称された時期もある。
詳細は副総理を参照
日本には、他国の副首相に相当する官職は存在しない。ただし、2000年4月までは内閣法第9条に定める内閣総理大臣臨時代理に（期間限定なしに）指定された大物閣僚を副総理と呼ぶ慣行があった。
内閣総理大臣及び各省大臣（上記一覧の防衛大臣まで）は内閣法上「主任の大臣」と呼ばれ、担当国務に関係する法律、政令を公布する際その末尾に連署・副署することが義務づけられている。
なお、「主任の大臣」以外の大臣（上記一覧の内閣官房長官以下）は、連署・副署をしない。ただし、「主任の大臣」の誰かが外遊等で国内不在となる場合に一時的にその臨時代理を命ぜられることがあり、その際は連署・副署に名を連ねることとなる。
特命担当大臣も参照
複数の省庁に関係するような国政の重要事項については一省庁の所掌とせず、専任の重要事項担当部署（局・対策室など）を省庁より格上の内閣官房か内閣府に設置して、最高責任者である内閣総理大臣の下で総合的に処理する場合がある。これら重要事項担当部署の長（局長・対策室長など）は、通例官僚が任命されるが、それら局長等と内閣総理大臣との間に総括的な責任者として担当大臣が置かれることがある。重要事項担当部署が内閣府にある場合、その担当大臣のことを法律上「特命担当大臣」（官報辞令上は「内閣府特命担当大臣」）と言う。一方、重要事項担当部署が内閣官房にある場合その担当大臣の正式呼称は特に法定されていない。
内閣府特命担当大臣（例：金融担当）も、内閣官房の重要事項担当部署の担当大臣（例：郵政民営化担当）も、一般的にはそれぞれの担当職務を用いて「○○担当大臣」と呼ばれる。
例はあまり多くないが、複数省庁にわたる政策事項でありながら内閣官房でも内閣府でもなく一省庁内に「対策室」等を設置し、その総括をその省庁の大臣と別の大臣に命ずる場合（例：個人情報保護担当）があるが、その場合も内閣官房の場合と同様に担当大臣の法定された正式呼称はなく、俗に○○担当大臣と呼称される。