パキスタンカイバル・パクトゥンクワ州のイスラーム神学校（マドラサ）に学び、ソ連のアフガニスタン侵攻でムジャーヒディーンとしてゲリラ戦を行い、ムハンマド・ナジーブッラー政権と戦った。オマルは対ソビエト軍の戦いで4度負傷したとされる。1986年、カンダハール近郊の戦闘で右目を失い、クエッタのマドラサで過ごした。他のムジャーヒディーンとは異なりオマルはアラビア語を解したため、アブドゥッラー・アッザームの教えに感化されてマドラサでその思想を広めた。オマルはカラチに移り説教を始めるが、そこでウサーマ・ビン・ラーディンと初めて会っている。

1989年にソビエト軍がアフガニスタンから撤退を開始し、その後に勃発したアフガニスタン内戦で1992年にナジーブッラー政権が崩壊すると、オマルはカンダハールに戻りマドラサを設立した。
ターリバーン結成詳細は「ターリバーン#歴史#1990年代前半#背景」を参照

オマルがターリバーンの指導者となった経緯については複数の説がある。一説によると、政治的・軍事的能力ではなく、敬虔で揺るぎないイスラームへの信仰を持っていたから選ばれた。オマルは神によって選ばれたとする説もある。これによるとアフガニスタン内戦の最中の1994年、自身の夢に預言者ムハンマドが現れて、武装決起を命じられ、味方することを告げられた。

オマルはその頃から、周りの友人達と治安回復を話し合っていた。周囲はオマルを「ムッラー」（物知り）と呼んだ。オマルはマドラサでの50人にも満たない教え子たちと「ターリバーン」（アラビア語で「学生」の意）と呼ばれる運動を開始、そこにパキスタンにいるアフガン難民らも合流した[3]。1994年の段階でもターリバーンの勢力は30名ほどでライフルも16丁しかなかったと言われる。腐敗した軍閥に憤っていたターリバーンは軍閥に誘拐された少女らを救出して人々の支持を得、ターリバーンには他のイスラーム神学校からも多数が参加するようになった。一大勢力に成長したターリバーンは1995年にはヘラートを占領した。
宗教的権威を獲得

1995年ターリバーンのカブール攻略は一向に進展せず、死傷者も増大したことから、ターリバーン内部で動揺が広がっていた。後からターリバーンの支配に入った地域の代表者らは和平を求めていたが、それでもなお、オマルを取り巻く強硬なグループはアフガニスタンの全土征服の戦いを望んでいた。オマルを取り巻くグループはオマルを「信徒たちの長」を意味するアミール・アル＝ムウミニーンに指名した。1996年4月、オマルは預言者ムハンマドが使用したとされる外套を着て、アフガニスタンにあり溢れた泥の建物の屋上に現れた。建物の下の広場に集まっていた1,500人の宗教指導者[4]は「アミール・アル＝ムウミニーン」と絶叫し、バイア（英語版）というイスラームにおける忠誠の誓いの儀式を行った[3]。これは預言者ムハンマドの死後、カリフとなったウマル・イブン・ハッターブがウンマの指導者として確認された時と同じ手続きであり、オマルは、アフガニスタン人だけでなく世界中の全ムスリムを指導する権利を手に入れた。
アフガニスタン・イスラム首長国の樹立

1996年のカーブル占領でターリバーンの最高指導者としてオマルは新政権「アフガニスタン・イスラム首長国（Islamic Emirate of Afghanistan）」を発足させ、その首長（アミール・アル＝ムゥミニーン）に就任した。ターリバーンは宗教的な紐帯を軸に発足した政権であり、首長の称号もかつてのカリフになぞらえたものだったが、オマル自身はマドラサの教育を修了しておらず、宗教的な勧告（ファトワー）を発する権限は持たなかった。また、アフガニスタンの首長としての在職中はカンダハール市郊外の自宅で隠士生活を送っていた。

ターリバーン政権はイスラームの価値観に基づいたアフガニスタンの復興を目指したが、イスラームの名のもとに国民に女子教育禁止など極端な人権侵害を行ったため国際的に孤立した。さらにアメリカ合衆国やサウジアラビア政府に対するテロ行為の黒幕と目されていたビン・ラーディンとアルカーイダを客人として迎え入れて匿ったことから、アメリカと激しく対立する。アルカーイダはアフガニスタンでテロリストの訓練キャンプを設置したほか、この間にもアメリカ大使館爆破事件や米艦コール襲撃事件などのテロ事件を引き起こした。このため1999年には国際連合安全保障理事会決議1267[5]、2000年には国際連合安全保障理事会決議1333[6]が採択され、アルカーイダとビン・ラーディンの引き渡しが要求されたが、オマルはいずれの決議にも従わなかった。
政権崩壊詳細は「アフガニスタン紛争 (2001年-2021年)」を参照