1190年（建久元年）、頼朝は、右近衛大将（右大将）に任官され、自らの家政機関を政所として公認された。しかし近衛大将はその職務の性格上京都に在住しなければならず、関東での独立を指向するには不向きだった。そこで頼朝は右大将を辞任し、前右大将としてその特権を保持した。「前右大将」という名目を鎌倉政権の歴代首長の地位としていく構想もありえなくはなかったと思われる。だが、右大将では形式上の官位こそ高いが、すでにライバルだった源義仲が征東大将軍だったことに比べると、中央近衛軍司令官という性格上、積極的に地方の争乱を武力で鎮圧する地位ではない。また奥州藤原氏の鎮守府将軍と比較すると「武士の自治」という重要な積極的要素が欠けていた。
そこで頼朝が注目したのが「征夷大将軍」という官職であった。これは軍政（地方統治権）という意味では鎮守府将軍と同様である。かつ、坂東の兵（この場合は東国の武士）を率いて奥羽の蝦夷（この場合は奥州藤原氏）を征伐するという目的からしても、鎮守府将軍より故実からして格上でもある格好の官職であった。
つまり、
東国武士の棟梁として君臨する鎌倉殿という私的地位
守護・地頭を全国に置き、軍事警察権を行使する権限
右大将として認知された、家政機関を政所などの公的な政治機関に準ずる扱いを受ける権限
を、全て纏め上げて公的に担保するのが征夷大将軍職であった。
ただし征夷大将軍職は奥州藤原氏を討つための奥州合戦においてこそ必要とされた官職であって、実際に任官した1192年（建久3年）においては、既に頼朝にとって必要性はなくなっていたという説も有力である。実際に頼朝は征夷大将軍職にあまり固執しておらず、2年後の1194年（建久5年）には辞官の意向を示している。また源頼家は家督継承にあたりまず左近衛中将、ついで左衛門督に任官されており、征夷大将軍職を宣下されたのはその3年後である。さらに比企能員の変に際しては総追撫使・総地頭の地位の継承が問題となっており、将軍職は対象とされていない。したがって、この段階では将軍職は、武家の棟梁の絶対条件ではなく、さほど重視されていなかったことがうかがえる。一方、源実朝の家督継承に際してはまず将軍職が宣下されている。
だが近年、『三槐荒涼抜書要』に、頼朝の征夷大将軍任官の経緯の記述が発見された（それまでは同時代史料の記述が見つからなかったため、後世の編纂史料である鎌倉幕府の公式記録『吾妻鏡』の記述をもとに推測がなされていた）。それによると、頼朝が望んだのは「大将軍」であり、それを受けて朝廷側が、凶例である「惣官」（平宗盛）・「征東」（源義仲）や先例のない「上将軍」を斥け、吉例である「征夷」（坂上田村麻呂）を採用することにしたという。つまり、頼朝にとって重要なのは「征夷」ではなく「大将軍」であり、朝廷側も消去法で選んだだけだったことが明らかとなった。そのため、「征夷」に重点を置いた解釈のされてきたこれまでの研究には再検討の必要が出てきている。
源氏の征夷大将軍が3代で断絶すると、摂家将軍、宮将軍を傀儡に据えて執権北条氏が実権を握ることになった。
鎌倉時代以降、源頼朝が「征夷大将軍」の位を得て幕府を開いて後は、幕府の政治力が徐々に高まっていった。しかし、鎌倉時代を通じては、朝廷も全国支配をおこなう政府として存続し続けた。一方、鎌倉幕府においては執権職を独占した北条氏が覇権を握り、征夷大将軍は名目上の武家の棟梁ではあるけれども、実際は北条氏の傀儡となった。室町幕府が成立すると、３代将軍足利義満の時期に、義満は公武両権力の頂点に立った。それ以降、「征夷大将軍」は武家の最高権威となった（ただし、実質的権力については、元将軍である室町殿〔足利氏家督〕や大御所が握っている場合もあり、必ずしも征夷大将軍が握っていたわけではない）。この時期以降、朝廷は単なる形式だけの政府で、幕府こそが日本全土を統治する正真正銘の政府となったと言える。
南北朝時代には、南朝の北畠顕家が鎮守府将軍を鎮守大将軍と名乗ることを認められているが、これは征夷大将軍と同格の存在としてこれに対抗する意図があったとされる。
「武家の棟梁となる将軍に就く家柄は、清和源氏に連なる家系に限る」という認識が武家の間でまことしやかに慣例となっていた。織田信長は織田家が平家の系図を称していたため「征夷大将軍」にはなれず、また徳川家康は「征夷大将軍」に任命されるに当たっては、系図を偽造して清和源氏と称したというエピソードも残っている。しかしながら、実際に織田信長に「征夷大将軍拝命」の勧めの勅使が来ていることもあり、現実的には源氏でなければ将軍になれないというのは根拠がない（おそらく家康が源氏を称した理由はただ将軍になるのではなく、源氏長者となり、さらに将軍職へ就くことにより、秀吉の武家関白制に対抗し、武家と公家の双方を支配する権利を得るのが目的だったのであろう）。また、頼朝以降に限っても、摂家将軍や皇族将軍の例があり、現実に清和源氏に限られていない。これらの事から、征夷大将軍になるのは源氏でも平氏でも藤原氏でも、なんら支障は無いと解釈できる。
そこで昨今取りざたされている説は、「征夷大将軍」は本来東国の兵を率いて蝦夷征伐にあたる職なので、「何らかの形で東国を支配している者」が就任するための条件であったというものである。織田信長が征夷大将軍を望んでいたか否かは諸説あり、断定できない。ただし、征夷大将軍拝命の勅使が来るための条件となったのは、信長が東国の大名である武田氏を滅ぼしたこと、また、関東の北条氏を実質的に臣従させたことなどが根拠（名目）となっていたのではないかとも推察される。また、豊臣秀吉が征夷大将軍になれなかったのは、徳川家康に小牧・長久手の戦いで敗れたためであるという説もある。東国支配に失敗した秀吉は、結局、征夷大将軍にはなれず、藤原氏の養子となって宮廷貴族の長である関白に任ぜられた。だが秀吉にとっては、関白就任のほうが征夷大将軍就任よりもはるかに困難であった。にもかかわらず秀吉は関白就任を選択したことから、秀吉はもともと征夷大将軍になる気はなかったのではないかという説もある。
一方、公家の間でもかつては、とある人物の家柄が源氏と平氏のいずれに連なるかにこだわり「公家に近しい平家」「御しがたい武家の源氏」と見なす風潮があった。またこれに根ざして、源氏と平氏あるいは源家と平家が日本の政権を交互に執るという思想も生まれた（源平交代思想）。
なお、平知盛、明智光秀がそれぞれ征夷大将軍に任命されたとの風説もあるが、それを示す史料はない。
順番（幕府内）氏名在職期間備考[1]
1坂上田村麻呂 797年（延暦16年）
- 811年（弘仁2年）陸奥出羽按察使兼陸奥守従四位下→大納言正三位
没後贈従二位。
2文屋綿麻呂813年（弘仁4年）
- 816年（弘仁7年）征夷（大）将軍参議従三位→参議従三位