扎瓦希里的父親是一名有名的內科醫生，而他的祖父則是埃及遜尼派穆斯林最高權力機關阿爾-阿扎赫清真寺的大阿訇。他在稚嫩的年紀就投入到埃及極端穆斯林團體，有報導稱他在15歲時就因是非法的「穆斯林兄弟會」成員而被捕入獄。
1981年，扎瓦希里因涉嫌埃及時任總統安瓦爾•薩達特刺殺案被捕。但在法庭上，法官們最終認定扎瓦希里沒有直接捲入薩達特的遇刺案。扎瓦希里最後還是被關在監獄裏長達3年，原因是他未經許可非法擁有手槍。
他在上世紀80年代准備逃往沙特，但不久他決定前往巴基斯坦西北部城市白沙瓦，那裏是阿富汗抵抗蘇聯入侵的大本營。
也就是在那時那地，扎瓦希里與還未成為「恐怖大亨」的本•拉登相遇。
在巴基斯坦時，他既是一名救治傷員的醫生，也是與趕來加入抵抗運動的阿拉伯激進武裝分子的聯絡人。
外界認為，扎瓦希里是於1990年代初期，在蘇丹或者阿富汗開始了輔助拉登的旅程。 | 
