El grupo fue formado en febrero de 2011 y realizó su primera acción armada en mayo del mismo año tras la muerte de Osama bin Laden haciendo gala de sus capacidades militares, permaneciendo inactivo desde entonces hasta 2013.
En 2013, el grupo se atribuyó la responsabilidad de un ataque suicida doble contra un complejo de inteligencia militar egipcio en el norte del Sinaí en la ciudad de Rafah, que resultó en la muerte de 6 soldados muertos y 17 heridos, esto meses después de la caída del expresidente egipcio Mohamed Morsi en julio. 2013. En una declaración sobre el ataque, Ansar Beit al-Maqdis elogió el ataque y afirmó que fue en respuesta a la represión egipcia contra los islamistas tras la caída de Morsi y la cooperación con Israel. Jund al-Islam también emitió una declaración con una retórica similar.[6][7] El 2 de enero de 2014, hombres armados mataron a tiros a Mark De Salis y Lynn Howie mientras almorzaban en una playa cerca de Sabratha, Distrito de Zauiya, Libia. Jund Al-Islam se atribuyó la responsabilidad del ataque, alegando que la pareja fue atacada por ser espías extranjeros.[8][9][10]
En noviembre de 2017 el grupo resurgió nuevamente, declarando su oposición al Estado Islámico de Irak y el Levante y su líder Abu Bakr al-Baghdadi . Jund al-Islam afirma que Abu Bakr al-Baghdadi e ISIL son Kharijies, y también afirma que la rama de ISIL en el Sinaí ha cometido abusos contra la población musulmana local y ha asediado la Franja de Gaza.[11]
En enero de 2018, un combatiente ruso que formaba parte de la provincia del Sinaí de ISIS, desertó a Jund al-Islam después de varios desacuerdos con los líderes de ISIS en el Sinaí, y apareció en un video publicado por Jund al-Islam criticando al Estado Islámico.[12][13][4]
En julio del 2020,el Estado Islámico del Sinaí afirmó haber "exterminado" a los restos de Jund al-Islam después de un enfrentamiente en el que siete miembros del grupo, incluido su líder 'Abu Ayyub', fueron asesinados en la aldea de al-Burath.[14]