第一次世界大戦によるドイツ軍の侵攻によってローゼンベルクはモスクワに移り、モスクワ高級工科学校（現在のバウマン記念モスクワ国立工科大学）に入学した。しかしまもなくロシア革命が発生し、ローゼンベルクは革命の進展を目の当たりにした[5]。彼は革命期のアナキズムに強い嫌悪感を持ち、また共産主義革命を「ユダヤ人の陰謀」ととらえ、これらに強く反感を持つようになった[6][7]。1915年にはヒルダ・リースマン（Hilda Leesmann）と結婚した[8]。1918年には建築学の資格を取得し、レヴァルに進軍してきたドイツ軍に入隊を志願したが認められなかった。その後締結されたボリシェヴィキ政府とドイツの休戦協定に衝撃を受け、11月には「祖国を得るため我が家を棄て」ベルリンに向けて旅立った[9]。この頃には、ローゼンベルクとヒルダの結婚生活は事実上の破局を迎える[10]。
初期のナチ党幹部

しかし、ベルリンは当時戦争敗北のため混乱の極みにあった。1919年初頭、ローゼンベルクは職を得るためミュンヘンに移ったが、亡命者救済委員会の世話になって暮らした[11]。ある日、路上で妻ヒルダの友人と出会い、政治運動家で詩人のディートリヒ・エッカートと出会うよう勧められた[12]。ローゼンベルクはエッカートに対し「あなたは、エルサレムに対し戦う人間を雇いますか」と問いかけると、彼は「もちろん」と答え、世話を引き受けた[13][14]。ローゼンベルクはエッカートが主宰する新聞『良いドイツ語で』に記事を書き、彼の主催するトゥーレ協会にも参加した[13][14]。

1919年末頃にはアドルフ・ヒトラーと出会い、ドイツ労働者党（DAP）の党員となった。党員番号は626番だった[13]。DAPは1920年に国家社会主義ドイツ労働者党へと改称した。ローゼンベルクはロシア語に堪能で、東方問題に詳しかったため、初期のナチ党幹部の中で一種独特の地位を築くことになった[15]。党は12月に『ミュンヒナー・ベオバハター』紙を買い取って『フェルキッシャー・ベオバハター（「民族の観察者」の意）』と改め、ローゼンベルクはエッカートの補佐として編集助手となった[16]。その後エッカートが体調を崩して党務から退くと、かわってヘルマン・エッサーが主筆となった。ローゼンベルクはこの人事に不満であり、素行の悪いエッサーを軽蔑したため両者の間は険悪となった[2]。1922年に『フェルキッシャー・ベオバハター』主筆となった[17]

この頃、ローゼンベルクはその外交に対する視野からヒトラーに大変気に入られており、彼は「自分が意見を聞くのはローゼンベルクだけである」とクルト・リューデッケ（英語版）に告げていた[18]。またエルンスト・ハンフシュテングルもヒトラーが彼の大きな影響下にあったと指摘している[18]。これらの点をコンラート・ハイデン（英語版）は「エッカートとローゼンベルクはヒトラーの教師だった。ヒトラーは数年の間、彼らの口真似をしているに過ぎなかった」と評している[19]。ただし、事務や政務の能力には欠け、党内の有力な役職はエッサーやマックス・アマンらに握られていた[18]。1923年には『国家社会主義ドイツ労働者党の本質、原則および目的』という綱領解説書を出版し、5万部ほどを売り上げた[18]。
ヒトラーの代理人

1923年11月8日のミュンヘン一揆では、翌日の失敗に至るまでヒトラーと行動を共にした。ローゼンベルクは逮捕を逃れ、ミュンヘンの各地に潜伏していた[20]。ヒトラーは収監後、ローゼンベルクに党指導を一任した。ローゼンベルクは大ドイツ民族共同体という偽装団体を立ち上げ、ナチ党の運動を再開した。しかしこの運動の実権はまもなくエッサーやユリウス・シュトライヒャーに握られ、ローゼンベルクの権力はほとんど無きに等しかった[21]。1月31日にはザルツブルクの幹部会合で党指導者代理に指名された[22]が、ミュンヘンに残っていた幹部、エッサー、シュトライヒャー、アマンとローゼンベルクの関係は最悪であり、彼を「部分的ユダヤ人」や「フランス[注 2]のスパイ」であると罵った[24]。

このころ、党の問題となっていたのが、エーリヒ・ルーデンドルフのドイツ民族自由党との合併問題であった。