1923年10月1日には蒸留所用地を購入し[19]、同月に建設を開始[2]。翌年の1924年11月11日に竣工した[2]。ウイスキーの製造に必要な設備は竹鶴の指揮のもとで揃えられ、一部は海外から輸入したものの、ポットスチルを含む大半の設備は竹鶴ノートをもとに日本で製造されたものだった[19]。ポットスチルはロングモーン蒸留所[注釈 4]に似た形のものが2基あり、イギリスから輸入したピートと国産の大麦を使って麦芽を作り、伝統的なスコッチ・ウイスキーとまったく同じ方法でのウイスキーづくりが始まったのである[21]。この頃の山崎はスコットランドのハイランド地方にある典型的な蒸留所のような内装であった[17]。なお、初代ポットスチルはその後1958年まで使用され、取り替えられた後は敷地内にモニュメントとして設置されている[22]。

しかし、ウイスキーの製造は困難を極めたうえ[23]、熟成に時間を要することからすぐには販売できないため、寿屋の経営を圧迫した。鳥井は費用を捻出するために歯磨き粉「スモカ」などの新商品を精力的に開発した[24]。操業開始から5年が経過した1929年には、日本初の本格国産ウイスキー「サントリーウイスキー」（通称「白札」）が発売されたが[2]、1瓶4.5円という強気の価格設定や[注釈 5]、焦げたような味わい（スモーキーフレーバー）が敬遠されたことで商業的に失敗に終わった[24]。1930年に竹鶴は当蒸留所に加え神奈川県横浜市鶴見のビール工場長も兼任することになるが、ステファン・ヴァン・エイケンはこれを「事実上の左遷」であると評価している[25]。1931年には寿屋の資金が尽き、操業休止に追い込まれる[24][26]が、翌1932年には「スモカ」の製造販売権を売却して資金を捻出、生産を再開した[26]。

1934年3月、当初の予定通り10年間の契約を満了し、竹鶴が寿屋を退社[27][23][注釈 6]。一方で長きにわたる試行錯誤の末、1937年に発売した「角瓶」（12年熟成）がついにヒット商品となった[29]。
戦時中

角瓶がヒットを収めた1937年には日中戦争が、1941年には太平洋戦争が勃発したが、山崎蒸留所は日本軍の指定工場として軍にウイスキーを供給する役割を担ったため、国から優先的に原料供給を受けられ、戦時中にあっても製造を中止せずに済んだ[30][31]。むしろこの時期も毎年のように売上を伸ばしており、1930年には17,000リットルだった山崎の出荷量は、1944年には771,000リットルにまで増加している[30]。戦争末期の1945年になると大阪本社・大阪工場ともに空襲の被害を被り、ウイスキー樽は山中のトンネル内に避難させていたものの[17]、蒸留所自体は幸運にも戦火を免れた[30]。なお、ウイスキーに香木のような独特な香味を付与することで知られるミズナラ樽は、海外産木材の輸入が困難になった戦時中にシェリー樽の代用品として開発されたものであり、熟成にミズナラを用いたのは山崎蒸溜所が初めてであった[4][32][33]。
戦後

当蒸留所が戦火を免れたことで、寿屋は戦後まもなくからウイスキーの販売を再開することができた[34]。