Восхищение трех палестинских студентов Исламской революцией в Иране стало исключением из правил в суннитском мире. Они рассматривали Исламскую революцию как основную модель арабо-мусульманского мира, выдвинув на первый план шиитскую концепцию — «принцип лидерства религиозного человека». Еще в начале 1979 года Фатхи Шкаки первым в арабском суннитском мире написал книгу, на страницах которой он не только восхвалял Иранскую революцию и ее лидера аятоллу Хомейни, но и провел глубокий анализ процессов и тенденций, происходящих в исламском мире. В 1970-х годах почти во всех арабских странах Ближнего Востока весьма удачно сосуществовали светские власти с суннитской религиозной концепцией, в связи с этим египетские официальные власти (правящая партия БААС) крайне негативно отреагировали на выход книги, увидев в ней неприкрытую угрозу сложившемуся государственному укладу.
Фатхи Шкаки, Абд эль-Азиз и Башир Муса объединили вокруг себя десятки ярых сторонников новой исламистской террористической организации, поддерживая самые тесные связи с различными экстремистскими группами и радикальными исламскими египетскими студентами, многие из которых стали непосредственными участниками заговора и убийства президента Анвара Садата в октябре 1981 года. Как результат палестинские исламские радикалы были немедленно высланы из Египта в сектор Газа, находящийся под контролем израильской военной администрации. Принято считать, что именно с этого момента организация «Палестинский исламский джихад» формально начала свою активную террористическую деятельность. В 1980-х годах деятельность группы носила спонтанный, хаотичный характер, основные усилия были направлены на выявление и физическое уничтожение местного арабского населения, активно сотрудничавшего с израильскими властями. На первых этапах своего существования «Палестинский исламский джихад» поддерживал теснейшие связи с ООП, однако после ликвидации в Тунисе Абу Джихада, лично курировавшего многие террористические группы на территории Израиля, организация постепенно отдалилась от ООП, со временем полностью разорвала все контакты и с остальными светскими палестинскими движениями.
В марте 1986 года во время массовых арестов членов организации «Палестинский исламский джихад» Фатхи Шкаки, теперь уже шейх, очередной раз был задержан израильской службой безопасности ШАБАК. В 1987 году за подстрекательство к террористической деятельности и за контрабанду оружия в секторе Газа он был приговорен Военным трибуналом к четырем годам заключения плюс пяти годам условно. Однако в августе 1988 года израильскими властями принимается решение освободить Шкаки из заключения и выслать его на территорию Ливана. Освободившись из израильской тюрьмы, шейх быстро нашел дорогу в Сирию и начал руководить террористическими актами прямо из Дамаска.
В 1987 году, прямо перед Интифадой, «Палестинский исламский джихад» провел ряд кровавых террористических актов, в основном на территории сектора Газа. Новая страница в биографии организации началась с нападения на армейский джип и убийства израильского офицера военной полиции 6 октября 1987 года. Во время засады, устроенной боевиками этой группы, погибли двое израильтян и шестеро террористов. Лидеры организации утверждают, что именно с этого теракта в секторе Газа началась Интифада. На протяжении всей Интифады организация шейха Фатхи Шкаки задавала тон. Впервые террористы-смертники (шахиды) были использованы «Палестинским исламским джихадом» и лишь потом этот жуткий, но весьма эффективный опыт переняли другие террористические организации, в частности ХАМАС. Усилиями израильской службы безопасности ШАБАК многие активные члены организации были арестованы, посажены в тюрьму или депортированы на территорию Ливана, что значительно ослабило влияние и активность организации внутри сектора Газа.
Однако организация шейха Фатхи Шкаки постоянно напоминала о себе пугающими сводками.
В 1988 году — поджог лесов в заповеднике Кармель на севере страны.
6 июля 1988 года — террористический акт на линии 405-го автобусного маршрута, следовавшего из Тель-Авива в Иерусалим. С криками «Аллау акбар» фанатик набросился на водителя автобуса и силой вывернул руль вправо. Водитель вступил в борьбу с террористом, однако все его попытки выправить ситуацию оказались тщетными. Переполненный автобус, идущий на большой скорости, сошел с трассы и сорвался в ущелье с 30-метровой высоты. В результате этого страшного террористического акта 16 человек погибли, 27 получили тяжелые ранения.
В феврале 1990 года — убийство девяти израильских граждан во время нападения на туристический автобус в Египте.
Существует мнение, что израильские спецслужбы допустили непростительный просчет, предоставив «Палестинскому исламскому джихаду» бесконтрольную свободу действий, выслав за пределы Израиля ее лидеров. Десятки палестинцев, высланные в Ливан, прошли настоящую школу террора. Воспользовавшись сложившейся ситуацией, Фатхи Шкаки реорганизовал группу, укрепив и расширив тесные контакты с «Корпусом стражей Исламской Революции» и «Хизбаллой», базирующимися на территории Ливана. Основная активность организации была перенесена из сектора Газа на территорию Южного Ливана. Фатхи Шкаки смог расширить политические контакты организации. Ее представительства открылись в Бейруте, Дамаске, Тегеране, Хартуме, Аммане, Триполи, а также… во многих европейских столицах. Агрессивно настроенное по отношению к Израилю арабское окружение после нескольких неудачных попыток уже не рисковало идти на открытый военный конфликт, поэтому в лице «Палестинского исламского джихада» оно видело эффективный инструмент воздействия для достижения своих политических целей. Можно сказать, что Фатхи Шкаки смог косвенно объединить в борьбе с Израилем вокруг своей организации многих арабских лидеров, которым напрямую было бы намного сложнее договориться. На счета организации устремились значительные финансовые потоки. Ливийские спецслужбы, стараясь укрепить свое влияние на ближневосточные процессы, начали активно сотрудничать с «Палестинским исламским джихадом», возложив на себя непосредственную ответственность за безопасность ее лидеров, в частности шейха Фатхи Шкаки.
После соглашения в Осло 1993 года и подписания мирного договора между Государством Израиль и Хашимитским королевством Иордания 26 октября 1994 года ситуация на Ближнем Востоке коренным образом изменилась. Существовавший среди арабских государств раскол еще больше углубился. Под нажимом Сирии создается так называемый «Новый фронт сопротивления», еще именуемый «Союзом десяти», в котором шейх Фатхи Шкаки стал постоянным членом. Тонко чувствуя и легко ориентируясь в специфике восточной политики, Шкаки виртуозно лавирует между различными течениями, весьма удачно достигая своих политических целей.
Не ограничиваясь лишь проведением террористических актов на территории сектора Газа и Южного Ливана, «Палестинский исламский джихад» начал проводить активную агитационную деятельность в основном в секторе Газа среди студентов и арабской интеллигенции. На территории Южного Ливана группировка, имея сотни сторонников и членов, являлась бесспорным лидером, полностью контролируя ситуацию, однако в самом секторе Газа более прочные позиции занимал ХАМАС. До образования Палестинской администрации в 1994 году между «Палестинским исламским джихадом» и ХАМАС практически не существовало никаких связей, некоторым образом они даже были соперниками в секторе Газа. Только после того как ХАМАС переключилась на тактику террористов-смертников, организации предприняли взаимные попытки сближения. Это сказалось прежде всего на координации параллельных акций и сотрудничестве в проведении совместных террористических актов. Ярким примером такого сотрудничества явилось проведение 22 января 1995 года на перекрестке Бейт-Лид одного из самых кровавых террористических актов за всю историю существования государства Израиль.