軍隊は複数の部隊から成る組織体である。まずその機能から軍政機関と軍令機関に大別できる。軍政機関とは軍事行政を管轄する機関であり、軍事力の維持に関する予算編成、軍需品の調達、部隊の編制等の業務を担当する。軍令機関とは軍事命令を管轄する機関であり、軍事力の運用に関する作戦指揮を行う。
現代の軍隊はしばしばその高度な専門性から政治とは切り離され、プロフェッショナルである職業軍人により組織されているが、軍事的行動は文民政治家によって統制されるという文民統制の体制に置かれていることが多い。本来その目的は近世まで続いてきた政治家（王や貴族）による軍隊の直接統制を廃止し、軍人と政治家を切り離すことで政治が軍事に過剰に干渉せず、軍人がより専門化を推し進める体制を整えることにあった。また、議会制民主主義の浸透により、軍隊が政治の動向とは無関係に行動することを監督する機能もでてきた。そのため今日、軍隊の指揮系統の最上部にあたる最高指揮官はプロフェッショナルの政治家である国家元首や国防相である場合が多い（文民統制を参照）。
幕僚機関とは指揮官の指揮を専門的な立場から補佐する幕僚により構成される機関である。参謀機関は最高指揮官から軍団、師団、連隊等の高級部隊の指揮官の下にも設置されており、幕僚長を中心に作戦幕僚、情報幕僚、兵站幕僚、人事幕僚、計画幕僚等の一般幕僚を中心として複数の幕僚から構成される合議制の組織である。作戦部隊(Line)とは別の機関であり、指揮官の指揮下にのみ入っていて部隊の指揮権を持たない。ただし指揮官の決心を実行するために指揮官の代理者として部隊に命令を下す権限を持っている。参謀機関は戦時においては情報活動、戦術研究、作戦計画び立案などの活動を行い、指揮官の意思決定を補助する。19世紀に生まれたこの幕僚の制度は現代の軍隊では広く採用されている。
詳細は陸軍を参照
陸軍は陸地を主要な活動領域とし、陸戦を遂行する。作戦を遂行する歩兵、砲兵、戦車、航空部隊や、戦闘支援・後方支援を行う通信、需品、衛生、化学、会計、音楽部隊などから構成され、部隊が配備される駐屯地（基地）を持つ。
詳細は海軍を参照
海軍は海洋を主要な活動領域とし、海戦を遂行する。航空母艦、巡洋艦、駆逐艦、フリゲート、潜水艦、掃海艇、航空機などから構成される艦隊を持ち、それらが配備される港湾や基地を持つ。
詳細は空軍を参照
空軍は空域を主要な活動領域とし、航空作戦を遂行する。戦闘機、攻撃機、爆撃機、偵察機、電子戦機、早期警戒機、輸送機、空中給油機などから構成される航空部隊を持ち、また防空のための地対空ミサイルなどを有する。それらが配備される基地を持つ。
また旧ソビエトでは空軍とは別に防空軍と言う組織が存在した。
陸海空あらゆる場所において作戦行動が可能な戦力を持つ部隊は統合部隊であり、二国以上の軍隊で構成される部隊が連合部隊、両者が併用された場合は統連合部隊と呼ばれる。国によってその有無、規模、編制は異なる。米軍は地域別に統合軍を保有しており、世界規模の作戦行動を分担している。北大西洋条約機構軍や欧州連合軍は陸海空軍を統合し、さらに諸国の軍隊を連合した編制になっている。
軍学校とは軍隊の下士官や幹部を養成するための各軍各種の学校、大学、幕僚学校等である。これは要員を補充するための補充学校と要員の技能を高めるための実施学校に大別され、軍種や兵科によって設置される。ただし統合幕僚大学では全ての軍種を統合した教育機関である。軍学校の期限は17世紀に常備軍が創設されて将校の補充の必要が生まれたことにあるが、各国軍で軍学校の設置が本格化したのは18世紀後半からである。その教育内容は礼式、戦術と指揮、兵器の運用等であり、海軍ではさらに航海学等が加えられていた。20世紀には空軍の士官学校が設けられると科学技術の知識の必要性が見直され、第二次世界大戦後には一般的な教養科目も大幅に拡充された。また教育と共に研究を行っている場合も多い。専門的な研究を行う機関に研修生として派遣される場合もある。
情報機関とは一連の情報活動を行っている機関であり、諜報機関とも呼ばれる。軍隊における情報機関は主に軍事情報に属する情報資料を収集しており、人的・物的な情報資料の収集、データベースの作成、情勢資料の分析、上層部への重要な情報の報告などを具体的な業務としている。情報機関は情報活動の領域を衛生写真や地理的な特徴についての情報を扱う部署、通信やレーダー等の電子的な情報を扱う部署、対外的に情報を保全する防諜を担当する部署、収集された情報資料を総合的に分析する部署などに分かれているが、情報機関の組織は国によって異なる。
特務機関とは特殊な任務を実行する機関であり、情報機関のように諜報活動を行う場合もあれば、政治工作や破壊工作、宣撫工作などの隠密な活動を遂行する機関であり、一定の定められた任務を遂行する機関とは限らない。陸海空軍の特殊部隊も場合によってはこの特務機関に分類できる。公式には存在しない機関である場合もある。
兵站機関は後方支援業務を担当する機関であり、軍事作戦の遂行に必要となる物資の補給、輸送、管理を行う。兵站業務が確立されるまでは自給自足や現地調達で必要な物品を補給していたが、運用される部隊の大規模化が進み、今日では基地に物資を集積しておいて部隊に対しては定期的に補給する方式が採られている。そのために兵站機関は平時においては物資の管理、戦時においては兵站計画の立案、輸送の統制、補給施設の管理、交通路の確保、財務、広報などの幅広い広報支援活動を行う。
軍隊における衛生の意義とは兵員の能力を医学的に維持向上させることによって軍隊の戦力の水準を保つことにある。居住環境、食品衛生、伝染病の予防などの防疫に関する助言や負傷者の治療、負傷の予防、さらにこれらに関連する衛生学、戦傷学、戦病学、軍陣防疫学、軍陣衛生学などの研究を行う。陸海空軍がそれぞれ独自に衛生機関を設置しているのは、行動領域が異なるために必要になる衛生上の機能も細部で異なるからである。これら衛生機関の最高責任者は通常では国防相か陸海空軍の長官であり、補助的な機関として医務局がしばしば設置される。構成員は軍医、技術者、看護師、衛生下士官、衛生兵などであり、軍医と看護婦は将校の地位に類する立場として認められている。
陸海空軍とは別個に編制され、補助的な軍事作戦を遂行する部隊、または治安維持を行う部隊を言う。準軍事組織として扱われる組織には国境警備隊、沿岸警備隊、警察軍、民間防衛隊などがある。