慶太はさらに上級学校への進学を夢見たが、経済的理由から進学を断念して青木小学校の代用教員となる。慶太の向学心は強く、1902年（明治35年）の夏に上京して東京高等商業学校を受験するが、英語で失敗し不合格[要出典]。1903年に学費が不要な東京高等師範学校に合格し、代用教員を辞して英文科へ進学した[要出典]。東京高師では地理歴史、英語、教育学などを学んだが、のちの人生に残らず、唯一人生の指針となったのは校長の嘉納治五郎が日頃語っていた「なにくそッ」の教訓だった[4]。

卒業後の1906年に英語教師として三重県の四日市市立商業學校に赴任する[2]も、「一度学校に赴任してみると、校長はじめ同僚がいかにも低調でバカに見えて、とうていともに仕事をしていくに足りない者ばかりだった。」と不満を持ち、さらなる最高学府への進学を志して、1907年（明治40年）9月に東京帝国大学政治学科の選科に入学する。10月に旧制第一高等学校の卒業資格試験に合格して法学部本科に転学した。再び学資に窮し、東京高師の校長で在学中に世話になった嘉納の紹介を得て、富井政章男爵の子息の家庭教師として居候する。富井の子息の第二高等学校進学が決まると、次は富井の紹介で加藤高明の子息加藤厚太郎の家庭教師として加藤邸に居候する。

1911年（明治44年）、東京帝国大学を卒業する時はすでに29歳であったが、高等文官試験に合格し、加藤高明の斡旋で農商務省に入省。工場法施行に伴い、工場監督官に採用されるが、施行が3年延期になったため、鉄道院に移った。
鉄道業界へ

鉄道院では文書課、監督局、監督局内の総務課と職場を移り、1919年（大正8年）に総務課長に就くが、高等官七等の身分であるため「課長心得」となる。この処遇が気に食わず、稟議書の認可押印時に、わざと「心得」の2字を消してから上席へ回した。気付いた次官が理由を尋ねると「私は本当の課長としての責任をとって本気で書類に判を押している。心得というような中途半端な無責任な字は消している。これは、私を侮辱したことになる」と答え、心意気を請われて「課長」に昇進した。1年半ほどのちに官吏の生活に飽きてきた頃、武蔵電気鉄道（後の（旧）東京横浜電鉄、現在の東急東横線の母体）社長の郷誠之助が資金集めに難航し、鉄道建設に専門の知識を持った常務を求めて鉄道院次官に掛け合った。次官は「課長心得が気に入らないと言って『心得』を消してくる面白いやつがいる」と五島を紹介した。これを渡りに舟と感じた五島は1920年（大正9年）5月11日に鉄道院を辞し、武蔵電気鉄道常務に就任した。

その頃、実業家の渋沢栄一らによって理想的な住宅地「田園都市」の開発を目的に設立された田園都市株式会社[5]が東京府荏原郡の田園調布[6]や洗足などに分譲用として45万坪の土地を購入した。その住民に交通の便を提供するため、目黒駅と蒲田駅から同経営地まで鉄道を敷設するため荏原電機鉄道も設立したが、素人ばかりのため経営不振に陥っていた。そこで大株主の第一生命保険社長の矢野恒太に相談したところ、第一生命相談役の和田豊治が阪神急行電鉄（後の阪急電鉄）総帥の小林一三を推した。小林は名前を出さず、報酬も受け取らず、日曜日のみ、の約束で経営を引き受け、玉川、田園調布方面の宅地開発と鉄道事業を進めた[7][8]。目黒蒲田電鉄を立ち上げる時に小林が多忙のため、代わりに鉄道院出身であった五島を推挙した。小林からは「荏原電鉄を先にやって、45万坪の土地を売り、その利益で武蔵電鉄をやればいい」と説得され、1922年（大正11年）10月から荏原電気鉄道の専務を兼務した。直前の1922年（大正11年）7月、荏原電気鉄道は目黒蒲田電鉄と名前を変え、1924年（大正13年）11月に目蒲線の全線開通を迎えた。その時期が関東大震災と重なったため、都心を焼け出された人々が沿線に移住し業績は一気に好転した。その利益で武蔵電鉄の株式過半数を買収し、名前を武蔵電鉄から（旧）東京横浜電鉄と変え、1927年（昭和2年）8月に東横線を渋谷駅 - 神奈川駅間で開通させた。この東横線は五島が最も精魂を傾けて建設した路線[9]である。

昭和恐慌の煽りを受けて業績は悪化する。その時、五島は「予算即決算主義」を確立した。これは後々まで五島の経営哲学として生き続ける。

五島は阪急の小林の手法に倣い、沿線に娯楽施設やデパートを作り東横沿線の付加価値を高めた。更に大学等の学校を誘致し始める。1924年（大正13年）、関東大震災で被災した東京工業大学を浅草区蔵前から目蒲電鉄沿線の大岡山へ移転させることに成功する。1929年（昭和4年）に慶應義塾大学へ日吉台の土地を無償提供し、1934年（昭和9年）日吉キャンパスが開設された。1931年（昭和6年）に日本医科大学へ武蔵小杉駅近くの土地を無償で提供し、1932年（昭和7年）に東京府立高等学校を八雲に誘致した。1936年（昭和11年）に赤坂区青山北町にあった東京府青山師範学校に資金援助を行い、世田谷の下馬に誘致した。東横沿線を学園都市として位置付け数々の誘致を成功させ、通学客を安定的な乗客として多く獲得した。

五島は自らが苦学生であったことに加え、学生時代から家庭教師や学校の教師を務めていたことから教育分野に大変熱心だった。そのため私財を投じて東横商業女学校（後の東横学園中学校・高等学校・女子短期大学）を設立。続けて武蔵高等工科学校を有する学校法人五島育英会を設立するなど、晩年まで意欲を持ち続けた。

事業を拡大して1933年（昭和8年）7月に競合する池上電気鉄道の株を東京川崎財閥から譲り受けて買収した。

1934年（昭和9年）11月、渋谷駅前に関東初の電鉄系ターミナルデパートである東横百貨店を開業した。呉服が中心だった百貨店事業の中で、東横百貨店は日用品中心の品揃えを展開する。ターミナルであった渋谷駅は当時でも30万人近い乗降客があり、都心に行かず買い物ができる東横百貨店は人気を呼んだ。東横百貨店の隣に本社ビルを所有し、渋谷の開発をめぐり競合関係にあった玉川電気鉄道を内国貯金銀行の前山久吉から株式譲渡で買収、1936年（昭和11年）に社長に就任。1938年（昭和13年）4月に（旧）東京横浜電鉄に吸収合併した。1939年（昭和14年）10月に目黒蒲田電鉄は（旧）東京横浜電鉄を合併し、名称を逆に（新）東京横浜電鉄とする。五島慶太は「東横線が我々の祖業である、この線が滞りなく走っていれば東急の事業は安泰だ」と語ったように（旧）東京横浜電鉄は（新）東京横浜電鉄における事実上の主力であった。[9]。

五島は関西でも鉄道事業に関与し、1927年（昭和2年）から1944年（昭和19年）にかけて、近畿日本鉄道（近鉄）の前身である大阪電気軌道（大軌）[10]の監査役および、大軌子会社である参宮急行電鉄（参急）の取締役も務めた。
事業戦略

1938年に前山久吉が所有する三越株式の譲渡が持ち上がった。五島は東横百貨店を三越と合併して東横を三越の渋谷支店にしようと考え、10万株を購入した。東横百貨店の従業員研修の際に研修先候補に挙がっていた三越から受け入れを断られたことの逆恨みであったと伝わる。三井財閥の祖業である三越の乗っ取りを阻止するため、三井銀行は東横の融資を停止する。