Айман аз-Завахири родился 19 июня 1951 года в состоятельной семье в египетском городе Гиза (по другим данным, в пригороде Каира Маади). Еще в школе увлекся радикальными исламскими учениями и присоединился к группировке "Братья-мусульмане". В 1974 году окончил медицинскую школу при Каирском университете по специальности "хирургия". Занимался медицинской практикой: служил в египетской армии, а затем открыл собственную клинику. В 1978 году получил степень магистра медицины.
Параллельно аз-Завахири делал карьеру в исламистских организациях. В 1975 году он возглавил одну из групп радикалов, которая позже влилась в движение "Исламский джихад", запрещенное властями в 1979 году. В начале 1980-х годов некоторое время находился в Пакистане, где оказывал врачебную помощь афганским беженцам, покинувшим страну после ввода советских войск. В октябре 1981 года в числе других исламистов был арестован по подозрению в причастности к убийству президента Египта Анвара Садата. Провел в тюрьме три года за незаконное хранение оружия. В 1985 году отправился в качестве моджахеда в Афганистан, где познакомился с Осамой бен Ладеном и начал активную террористическую деятельность. Согласно заявлению самого аз-Завахири, в декабре 1996 года он под видом бизнесмена пытался проникнуть в Чечню, но был задержан пограничниками и провел шесть месяцев в заключении.
После освобождения он связался с дагестанскими боевиками и передал им партию взрывчатки. В 1998 году вместе с бен Ладеном выступил одним из организаторов "Международного исламского фронта за джихад против евреев и крестоносцев" и стал упоминаться как второй человек в "Аль-Каиде". Выступал главным идеологом организации, мало занимаясь оперативным управлением. Тем не менее он считается одним из организаторов всех крупных терактов "Аль-Каиды". 24 февраля 1999 года был заочно приговорен Каирским военным судом к смертной казни. Спецслужбы США провели несколько безуспешных попыток его уничтожения, ФБР назначило награду за информацию о его местонахождении в размере $25 млн.
Вдовец. По данным египетской разведки, его жена и двое из четверых детей погибли в декабре 2001 года при бомбардировке американскими ВВС афганского района Тора-Бора.