ところが享徳3年（1454年）、憲忠が足利成氏に暗殺され、上杉一門は報復に立ち上がって武蔵高安寺（東京都府中市）にいた成氏を攻めたものの、翌享徳4年（1455年）に分倍河原の戦いで返り討ちに遭い、当時の扇谷家当主・上杉顕房（持朝の子）が討死した。室町幕府は成氏討伐を決め、駿河守護・今川範忠率いる幕府軍が鎌倉に攻め寄せる。敗れた成氏は下総古河城に拠って抵抗する（古河公方）。成氏は上杉氏に反感を抱く関東諸将の支持を集めたため、関東地方はほぼ利根川[注 1]を境界線として、古河公方陣営の東側と関東管領陣営の西側に分断された（享徳の乱）。

康正2年（1456年）、父・道真（法名）から家督を譲られた。以後、道灌は上杉政真（顕房の子）・定正（顕房の弟）の扇谷家2代にわたって補佐して、結果的に28年にも及ぶ享徳の乱を戦うことになった。

古河公方側と戦うために早急に防御拠点を築かねばならず、顕房死後に扇谷家当主に復帰した持朝の命で、康正2年（1456年）から長禄元年（1457年）にかけて太田道真・道灌父子は武蔵国入間郡に河越城（埼玉県川越市）、埼玉郡に岩槻城（埼玉県さいたま市岩槻区）を築いた（岩槻城は太田道灌によって築城されたとされていたが、近年に道灌と対立した古河公方成氏方の忍城主・成田正等によって築城されたとする資料が見つかるに及んで、現在は後者の学説の方が有力となっている[3]）。
江戸城築城江戸城（現在は皇居）外観

更に古河公方側の有力武将である房総の千葉氏を抑えるため、両勢力の境界である当時の利根川下流域に城を築く必要があった。道灌は、元来は江戸氏の領地であった武蔵国豊嶋郡に江戸城を築城した（桜田郷の台地）。

江戸時代の地誌『新編武蔵風土記稿』では「道灌日記」という記録からの引用として、道灌が霊夢の告げによって江戸の地に城を築いたとある[4]。また、『関八州古戦録』には品川沖を航行していた道灌の舟に九城（このしろ）という魚が踊り入り、これを吉兆と喜び江戸に城を築くことを思い立ったという話になっている。これらの霊異談は弱体化していた江戸氏を婉曲に退去させるための口実という説がある。江戸城が完成して品川（御殿山）から居館を遷したのは、長禄元年4月8日（1457年5月1日）であったと言い伝えられている。

江戸城の守護として日枝神社をはじめ、築土神社や平河天満宮など今に残る多くの神社を江戸城周辺に勧請、造営した。後に徳川将軍家が拡張した江戸城を転用した皇居には現在も「道灌濠」の名が残る[5]。江戸城城主となった道灌は、ここで兵士の鍛錬に勤しみ、城内に弓場を設けて士卒に日々稽古をさせて、怠ける者からは罰金を取りそれを兵たちへの茶代に充てたという。

諸書を求めて兵学を学び、ことに『易経』に通じて当時の軍配者（軍師）の必須の教養であった易学を修め、また武経七書にも通じていた。『太田家譜』によると室町幕府管領・細川勝元に兵書を贈ったとされる。道灌の兵法は「足軽軍法」と呼ばれた。これは、それまでの騎馬武者による一騎討ちを排して、当時登場し始めていた足軽を活用した新時代の集団戦術と論じられることが多いが、実のところ『太田家記』に名称だけが書かれているだけで実態は不明である。

飛鳥井雅親・万里集九などと交流して歌道にも精通し、様々な和歌が残されている。有名な「山吹の里」の伝説はここから生まれた。文明元年（1469年）から文明6年（1474年）頃に歌人の心敬を品川の館に招いて連歌会を催し、これは「品川千句」と呼ばれる（歌人でもあった父・道真も「河越千句」を行っている）。