1979年，苏联入侵阿富汗，当时的奥马尔只有20岁，正值血气方刚的年纪，于是就加入了游击队，跟苏联军队打游击，担任火箭筒手，专门攻打苏联坦克。
由于奥马尔作战勇敢，他很快得到了重用，担任游击队的副司令。虽然叫司令，可是手下也就千八百号人，毕竟是游击队嘛，不可能像正规军那样，动轧上万人的规模。
奥马尔就是在这个时期，认识了本拉登。
1989年，随着苏联从阿富汗撤军，奥马尔解甲归田，回到了家乡坎大哈，作了一名宗教学校的校长。
这种平静的生活没过几年，面对阿富汗国内的军阀混战，奥马尔决定重新出山。
1994年，奥马尔揭竿而起，凭借着当年游击队打下的威名，很快在家乡拉起了一支800人的队伍。队伍需要有一个名字，奥马尔作为宗教学校的校长，手下的人员又以学校的学生为主，因此就给自己的这支队伍起名叫塔利班，意思就是宗教学生军。
阿富汗塔利班，就是这么来的，创建于1994年。
经过两年多的征战，许多阿富汗南方地区的游击队纷纷投奔到奥马尔麾下，在他的带领下，塔利班逐渐发展成为阿富汗各派中最强大的一支势力，兵力达到5万多人。
1996年3月，1500多名来自阿富汗各地的普什图族代表云集坎大哈，经过半个月的会议选举，一致推举奥马尔成为最高*。
半年之后，1996年9月，塔利班武装攻占首都喀布尔，随后控制了阿富汗全国90%以上的领土，塔利班正式接管了阿富汗政权，奥马尔也因此成为了阿富汗的最高*。
