アデナウアーはテニスクラブで出会ったケルンの名家の娘、エマと1904年1月に結婚する。エマの父方の祖父は建築家で美術館も経営しており、600点以上の名画を所有していた[18][3][24][29][30]。エマとの間には、3人の子供に恵まれるが(1906年長男、1910年次男、1912年長女)、長男出産時、難産であったため、エマは脊髄が湾曲し、腎不全になってしまい健康状態がすぐれず、1916年10月に死去する[31][29][32][33]。

1907年アデナウアーの妻・エマの叔父マックス・ヴァルラフ（英語版）が市長に就任し、アデナウアーは、1909年7月22日ケルン市の副市長並びに首席助役に就任する[34]。ヴァルラフは公務でベルリン市へ出張することが多く、アデナウアーが事実上のケルン市市長を務めていた[29]。

1914年第一次世界大戦が勃発する。戦争勃発当時、戦争はクリスマスで終戦するだろうと考えていた民衆が大多数であったが、アデナウアーは戦争の長期化を予想し、食糧問題を担当する[34][35][27][36]。アデナウアーは、ケルン市周辺の農家と契約を結び、食糧を市へと引き渡すことを確約させ、その見返りに、ケルン市は、肥料を農家に供給することを確約するといった施策を実施した[36]。また、アデナウアーは市有地の大半の耕作を農家に委託するなど、ドイツ国内では比較的ケルン市の食糧を充実させることに成功した[36]。

首席助役として成果を上げたアデナウアーは、1917年9月18日ケルン市市議会で賛成50票、反対0票、棄権2票で市長に選出され、11月29日、ケルン市市長に就任する[37]。第一次世界大戦終戦間際の1918年11月、キールで水兵の反乱がおき、ケルン市内でも労兵レーテが市の権力を掌握し、市長であったアデナウアーは対応に追われる[38][39][40]。アデナウアーは反乱軍と粘り強く交渉し、市内の秩序回復と市民への食糧の公正配分を行い、反乱軍をうまく懐柔することに成功した[38][39][40]。そして、第一次世界大戦終戦後、ケルン市にイギリス軍が進駐してくる[41][42]。アデナウアーはイギリス軍により発表された、「ドイツ人男性はイギリス軍士官に対しては帽子をとって挨拶せよ」という指令には反対するなどしたが、この期間は概ねイギリス軍とうまく付き合っていた[41][42]。

第一次世界大戦終戦直後、この時点ではヴェルサイユ条約が未締結であり、ドイツの国家政体がどうなるかが不透明であったため、ラインラントの処遇が盛んに議論された。ラインラントの処遇を巡ってはいくつかの方向性があるが、アデナウアーは、ラインラントをドイツの一つの州にすることを検討しており、ラインラントのプロイセン分離を支持し、ドイツからの分離は支持していなかった[43][44][45]。1918年11月22日、アデナウアーを議長とするラインラントの処遇を議論する委員会を発足させ、アデナウアーはラインラントをドイツから独立させるのではなく、ドイツ国内に西ドイツ共和国を成立させるという構想を打ち出した[46][47][43][48]。しかし、ヴェルサイユ条約には、アデナウアーの構想は盛り込まれず、ラインラント地方を中立化することで一旦妥協した[49][50][51]。1923年、フランスはドイツからの賠償金が滞っているのを理由として、ルール地方を占領する[52]。

フランスはラインラントの分離・独立の実現を図り、ラインラントの分離主義者を支援し始め、解体しようとした。アデナウアーは、ラインラント州を成立させて、フランスを懐柔することで和解を図り、ドイツとフランスの経済的結合を主張した[52]。戦争遂行に必要な重工業については、ベルギーやオランダとも統合して、戦争を不可能にするという構想が、アデナウアーには既にあった。ただ、周囲からの理解は得られず、構想だけで終わった[52]。

アデナウアーは、1919年9月25日に再婚する[53][54][55][56][57]。