20世紀(jì)70年代末,受伊朗伊斯蘭革命影響,一批巴勒斯坦激進(jìn)學(xué)生在埃及籌建了這個組織,其目標(biāo)是通過“圣戰(zhàn)”消滅以色列,在巴勒斯坦建立一個伊斯蘭國家;在伊斯蘭運(yùn)動推動下,重建統(tǒng)一的伊斯蘭世界。由于美國支持以色列,該組織視美國為敵人,仇視溫和的阿拉伯國家。1981年10月,埃及總統(tǒng)薩達(dá)特因為和以色列媾和而遭到埃及極端分子暗殺,該組織中的部分人員也參與了這次行動。其后,這一組織的成員全部被驅(qū)逐到加沙地帶。此后,他們以加沙為基地,開始了頻繁的針對以色列的襲擊活動,主要活動地點(diǎn)在以色列被占領(lǐng)土、約旦、黎巴嫩。
長期以來,伊斯蘭圣戰(zhàn)組織一直未同哈馬斯建立聯(lián)系,直到1994年后才與哈馬斯進(jìn)行協(xié)調(diào),共同采取行動。
伊斯蘭圣戰(zhàn)組織得到伊朗、敘利亞的贊助,在貝魯特、大馬士革、德黑蘭、喀土穆設(shè)有辦事處。伊拉克戰(zhàn)爭后,敘利亞政府在美國的壓力下,關(guān)閉伊斯蘭圣戰(zhàn)組織在大馬士革的辦事處。