В 1987 году окончил школу и поступил в колледж в США (ряд СМИ сообщали, что Хаттаб с 1982 года "принимал участие в боевых действиях в Афганистане" и "служил в черкесской гвардии короля Хусейна"). В 90-х годах, по версии СМИ, воевал в Афганистане (в отрядах моджахедов), Таджикистане (на стороне исламской оппозиции), Ираке (с кем велась война, неизвестно). Был несколько раз ранен, лишился двух пальцев.
Тогда же познакомился с бен Ладеном и ведущим теоретиком исламского экстремизма, лидером организации "Братья-мусульмане" Сеидом Кутбом. Якобы окончил военную академию в Аммане. Стал экспертом по взрывчатым веществам и всем видам легкого оружия, а также диверсионным операциям. В 1994-м или 1995 году прибыл в Чечню, где стал одним из полевых командиров. Получил широкую известность в апреле 1996 года после организации засады на колонну 245-го мотострелкового полка возле села Ярыш-Марды в Аргунском ущелье. Тогда погибли 53 и были ранены 52 военнослужащих.Летом 1998 года сблизился с Шамилем Басаевым на почве организации исламского имамата на Северном Кавказе. Создал ряд диверсионных школ. Вместе с Басаевым руководил вторжением в Дагестан в августе 1999 года. В сентябре 1999 года, по данным Генпрокуратуры, организовал взрывы жилых домов в Буйнакске, Волгодонске и Москве. А в марте 2001 года — теракты в Минводах, Ессентуках и Карачаево-Черкесии. Самой крупной боевой операцией Хаттаба был прорыв полутора тысяч моджахедов из Веденского ущелья в феврале--марте 2000 года, когда всего за три дня погибла целая рота десантников (86 человек) 104-го полка 76-й Псковской гвардейской дивизии ВДВ.
Хаттаб женат на даргинке из дагестанского селения Карамахи. Имеет дочь. Владеет арабским, русским, английским, даргинским, пуштунским языками и фарси.