1898年、父がアーレンの実科ギムナジウムの校長となったことで[11][17]、一家はアーレンに引っ越したが、アーレンには小学校(Volksschule)がなかったため、ギムナジウムに入学するまでの間、ロンメルは家庭教師から授業を受けていた[17]。そして、1900年には、父親が校長を務める実科ギムナジウムに入学した[17]。当初、ギムナジウムでは劣等生であり[16][17]、怠け者で注意散漫だったという[16][17]。あるとき、勉学に不熱心だったロンメルに勉強させるため、教師が「書き取りテストで間違いしなければ、楽隊と一緒に遠足に出かけよう」と彼に言うと、ロンメルは、これを真に受けて必死に書き取りの勉強をして、テストで間違いをしなかったが、約束の遠足につれて行ってもらえなかったので、また勉強をしない生徒に戻ってしまったという[16][17]。読書にも運動にも興味がない子供だったが、10代になると突然活発になった[16][17]。数学の成績が良くなり、スポーツにも関心を持つようになった[17][18]。また、飛行機の研究に夢中になり、14歳の頃には親友と二人で実物大のグライダーを作成した[10][14]。結局、まともには飛ぶことはなかったが、ヨーロッパでは1906年に初めて動力を備えた飛行機が飛行したばかりであった[10]。

ロンメルは、航空機関連のエンジニアになることを希望していたが、父親がそれに反対したため、ヴュルテンベルク王国軍に入隊することになった[10][19]。父親がロンメルに軍人の道を薦めたのは別に愛国心によるものではなく、堅実な職業に就いてほしいという現実的な理由であった。また、ロンメルは運動好きなので軍隊であれば屋外で身体を動かす機会も増えて満足するだろうし、次第に現実に適応できる知性もつくのではないかという期待もあった[20]。
軍人に

ロンメルの任官のルートは、世紀の変わり目にドイツ陸軍の職業軍人の半分以上が辿った道であった。ドイツ軍はアメリカ軍や大日本帝国軍など多くの列強の軍隊のように、士官学校出身者を中心に構成されるシステムではなく、独特な「直接入隊」というプロセスを採用していた。これは、中等教育を修了している士官候補生が、まずは「少尉試験」に合格するのに加えて、希望する連隊に入隊して将校からの認可を受ける必要があった[21]。将校として正式に任官する前に、各連隊にてその候補生の人種的、社会的、宗教的な問題を洗い出してふるいにかけることにより、軍内の問題の未然防止や、将校の質に一定の水準を維持する狙いもあった。また、プロイセン軍がかつてナポレオンに粉砕されるに至った軍の問題点を検証した際に、下級将校が下士官や兵卒によそよそしいという指摘があり、少尉候補生と下士官兵を一緒に軍務につかせて、一体感を醸成しようという目的もあった[22]。

ロンメルは入隊する連隊としてまずは地元の砲兵連隊を望んだが、砲兵は人気兵種で既に希望者が幼少の頃から連隊と関係を構築しており、ロンメルが入り込む余地はなかった。次に工兵隊を希望したが、もともと連隊数が少なく砲兵隊以上に狭き門で断念せざるを得なかった[23]。結局、もっとも連隊数が多く入隊が容易な歩兵に落ち着き、1910年7月19日にヴァインガルテン（ドイツ語版）に駐留するヴュルテンベルク王国陸軍第6歩兵連隊「ケーニヒ(国王)・ヴィルヘルム1世」（ドイツ帝国陸軍第124歩兵連隊）（ドイツ語版）に下級士官候補生(Fahnenjunker)として入隊した[24][25][26]。連隊将校から認可をもらうと、1911年3月にプロイセン王国ダンツィヒの王立士官学校に進んだ[26]。士官学校在学中には、当時ダンツィヒに語学の勉強に来ていたルーシー・マリア・モーリン(Lucia Maria Mollin)と出会った[15][27]。士官学校卒業後もルーシーと手紙で連絡を取り合い、二人は1916年に結婚した[28]。

ただ、ロンメルはルーシーと知り合った同時期の1912年の夏に十代の針子の少女ヴァルブルガ・シュテマー（Walburga Stemmer）と知り合った。当時ロンメルもシュテマーも独身で、ルーシーと婚約をしていたわけではなく自由恋愛ではあったが、ロンメルは2人との二股交際を続けて、1913年12月8日には娘ゲルトルートが誕生しているが、当時のドイツ軍では私生児が誕生しても、その子供を経済的に援助すれば特に問題にはせず、またロンメルの上官もこのようなスキャンダルで優秀な部下を失うことを避けるために、ロンメルの味方をしてくれた。結局、ロンメルは“過ちを犯した紳士”のとるべき正しい手段としてゲルトルートに援助を続け、後に正妻となったルーシーにもその存在を打ち明けている[29]。（詳細は#逸話で後述）

1912年1月27日に少尉に任官し、第124歩兵連隊に戻った[30][31]。ロンメルは、新兵の訓練を担当した。この頃から、ロンメルは自分のカリスマ性を存分に発揮している[15][28]。この頃のドイツ軍は歩兵と砲兵の連携を特に重視しており、下級将校たちは両兵科の部隊間を頻繁に交代勤務させられていた。人事交流によってお互いの不信感を払しょくさせる狙いもあったが、この交代勤務の候補者は各連隊の優秀な人材が選ばれることが多く、職業軍人としての出世コースでもあった[32]。当然、優秀な将校であったロンメルもその対象となり、1914年3月に第124歩兵連隊と同じく第27歩兵師団の指揮下であるウルム駐留のヴュルテンベルク王国陸軍第3野戦砲兵連隊（ドイツ帝国陸軍第49野戦砲兵連隊）に転属となり[15][33]、8月1日にはその第4中隊の小隊長となっていた[34]。
第一次世界大戦