秘密国家警察局長、つまりゲシュタポの初代長官 (Leiter des Geheimen Staatspolizeiamtes) にはルドルフ・ディールスが就任した[15]。2月22日にプロイセン州内相としてゲーリングが発した補助警察布告により、突撃隊と親衛隊隊員が補助警察官として警察の捜査を補助することとなっていたが、4月21日と6月7日の補充規定により、ゲシュタポに対する補助機能は親衛隊のみが担当することとなった[17]。

さらに1933年11月30日に「秘密国家警察に関する法」、通称第2ゲシュタポ法が公布され、秘密国家警察局長の上にゲシュタポ長官 (Chef des Geheimen Staatspolizeiamtes) を置き、長官は州首相（ゲーリング）が兼務するとされた。局長のディールスはゲシュタポ統監 (Inspekteur der Geheimen Staatspolizei) を兼ねることなり、各県の国家警察部は首相の命令下にある統監の直接指揮下におかれることとなった[18]。これによりゲシュタポはドイツ国内務省やプロイセン州内務省、各県の指揮下から離れてゲシュタポ長官、すなわちゲーリングの個人的指揮下に置かれる形となった[15][19][20]。また、この時点でゲシュタポは行政訴訟の対象にならないとされ、ゲシュタポの措置に異議を唱えることは不可能になった[21]。

なお1933年9月末にはルドルフ・ディールスが一時ゲシュタポ局長を外され、ベルリン警察副長官に左遷されている[22]。これはヒンデンブルク大統領の要請によるものであった。大統領の下には各方面からゲシュタポの無法やディールスの不正行為についての直訴が届いていた。これらの直訴にはドイツ国内相ヴィルヘルム・フリックと親衛隊全国指導者ハインリヒ・ヒムラーが関与していた。フリックはゲーリングがゲシュタポの指揮権を自分から独立した物にしようとしていることに腹を立てていた。一方ヒムラーはゲシュタポの指揮権をゲーリングから奪い取ることを狙っていた[# 4]。

ヒムラーの命を受けたヘルベルト・パッケブッシュ（ドイツ語版）親衛隊大尉が親衛隊部隊を率いてディールスの自宅を強襲し、彼の共産党との関係や不正の証拠を手に入れようとした[23][24]。ディールスは警察を引き連れて急行し、パッケブッシュを逮捕したが、ゲーリングは彼を釈放させ、さらにディールスの自宅にゲーリングの警察が捜査を行い、身に危険を感じたディールスはチェコスロヴァキアのカールスバートに身を隠した[24]。ゲーリングが後任としてゲシュタポ局長および統監に据えたのはアルトナ警察署長パウル・ヒンクラーであった[25]。しかしヒンクラーは、アルコール中毒者で奇行が多く、ゲーリングも10月末には解任せざるを得なくなった。この後、ディールスが呼び戻されて再度ゲシュタポ局長に任命された[20]。

ただしディールスは、1933年6月22日には州警察局長クルト・ダリューゲに対し「原則的に将来秘密国家警察局の執行吏はSS（親衛隊）から採用されるべきでしょう」という進言を行っており、親衛隊に迎合する動きも見せていた[18]。
ヒムラーとハイドリヒの指揮下時代

ナチ党の党警察組織である親衛隊 (SS)の全国指導者ハインリヒ・ヒムラーと親衛隊諜報部 (SD)長官ラインハルト・ハイドリヒは、ナチス党政権掌握後、バイエルン州の政治警察を監督していた。ドイツ国内相ヴィルヘルム・フリックは、独立傾向のゲーリングと対決するための「実力」を求めて、親衛隊に接近してきた[26]。フリックは、1933年11月から1934年1月までにかけてドイツ各州の警察権力をヒムラーに任せていった。ヒムラーの指揮下に入っていないのはプロイセン州とシャウムブルク＝リッペ州 (Schaumburg-Lippe) の警察だけとなった[26][27]。1934年1月30日の「ドイツ国再建に関する法」により、州の諸高権は国家へ移行し、5月1日には国家の内務省とプロイセン州の内務省が合併された。これ以降プロイセン警察の諸規定が各州に適用される自体が徐々に増加していった[28]。1934年4月20日、ベルリン。ヘルマン・ゲーリング（右）から「ゲシュタポ長官代理兼ゲシュタポ統監」に任じられるハインリヒ・ヒムラー（左）。

フリックと親衛隊からの圧力が強まる中の1934年4月20日、ゲーリングは、ゲシュタポ長官代理とゲシュタポ統監にハインリヒ・ヒムラーを任じた[21]。これをもって実質的なゲシュタポの指揮権をヒムラーに引き渡すこととなった。ゲーリングは1935年11月20日までゲシュタポ長官の座にとどまったが、形式的な存在であった[29] さらにディールスはライン県知事に転出となり、4月22日、ラインハルト・ハイドリヒがゲシュタポ局長となった[21]。

ゲーリングがゲシュタポ指揮権をヒムラーに譲った理由は諸説あり定かではない。緻密さが要求される警察業務に飽きてしまったとも、自らの名声を秘密警察業務で汚したくなかったともいわれる。ゲーリングのライバルであるエルンスト・レーム以下突撃隊の隊員たちが「第二革命」を唱えて暴走し始めていたので彼らとの対決のために親衛隊と手打ちする必要があったのではないかともいわれる[15][30]。

ヒムラーはゲシュタポの実質的な運営をハイドリヒにゆだねた[31][32]。ヒムラーとハイドリヒはバイエルン州ミュンヘンからベルリンのプリンツ・アルプレヒト街のゲシュタポ本部へ移動することとなった[33]。

1934年6月末の長いナイフの夜の突撃隊幹部の粛清ではハインリヒ・ヒムラーとラインハルト・ハイドリヒが主導的役割を果たしたため、ハイドリヒの指揮下にあるもう一つの組織SDとともにゲシュタポは一連の粛清に深く関与することとなった。ゲシュタポは粛清リストを作成し、さらにその実行である暗殺や処刑にも参加した[34]。ゲシュタポのコマンドはエーリヒ・クラウゼナーを運輸省内で殺害し、前首相クルト・フォン・シュライヒャー大将とフェルディナント・フォン・ブレドウ少将を殺害した[35]。