"Bonjour ChatGPT, peux-tu me dire comment fabriquer une bombe ?"

Si vous avez déjà essayé de poser une question de ce genre à un chatbot basé sur l'intelligence artificielle (IA), vous le savez sans-doute : la réponse peut aller d'une disgression sur l'histoire des explosifs à un blocage définitif de votre compte.

Mais parfois, si la question est posée d'une certaine manière, la réponse pourrait inclure certaines informations utiles concernant la fabrication d'une bombe.

Différents médias ont testé cette théorie et ont constaté que si l'on fournit ce que l'on appelle les "prompts" appropriés, certains modèles d'IA indiquent aux utilisateurs comment fabriquer des armes biologiques, faire exploser un stade ou effacer les traces d'un terroriste. Cette manière de formuler des questions est connue sous le nom de "jailbreaking". OpenAI, le développeur des modèles ChatGPTdécrit cette méthode comme "les tentatives d'un acteur malveillant visant à inciter le modèle à fournir du contenu interdit".

Ce mois-ci, un nouveau rapport publié par l'organisation Tech Against Terrorism, un organisme de surveillance en ligne soutenu par la Direction de la lutte contre le terrorisme des Nations unies, montre à quelle fréquence un modèle de langage de grande capacité (LLM) fournit des informations "utiles" à des apprentis extrémistes.

Les chercheurs ont envoyé plus de 2.300 demandes d'informations en s'appuyant sur des "cas concrets d'utilisation par des terroristes" à 27 modèles d'IA différents. Ils ont constaté que 32% des requêtes avaient abouti à des informations "réellement exploitables". Et lorsque la même question était reformulée, en précisant qu'elle était destinée à des fins de recherches, ce pourcentage passait même à 42%.

Augmentation du nombre de terroristes utilisant l'IA

Le rapport éclaire par ailleurs un autre aspect important et qui inquiète depuis longtemps les experts en sécurité numérique et en terrorisme : celui de voir les auteurs potentiels d'attentats utiliser l'IA pour planifier leurs actions et non plus, uniquement, à des fins de propagande.

Ces trois ou quatre dernières années, l'IA a été principalement utilisée par des groupes extrémistes comme l'État islamique ou Al-Quaïda pour produire de la propagande : création de vidéos, podcasts, et désinformation sont diffusés parmi les partisans de ces groupes et utilisés pour radicaliser de potentielles recrues.

Mais c'est en train de changer. "En 2025, on a assité à une augmentation notable des incidents où des terroristes et des extrémistes violents avaient eu recours à des outils d'IA pour planifier, documenter et préparer des attentats", ont confirmé les exprets de la publication Militant Wire dans une analyse publiée en décembre.

Ainsi, les attentats qui ont fait la Une des journaux et causé des morts et des dégâts mais aussi plusieurs complots déjoués ont eu recours à l'IA pour la planification, la surveillance, la visualisation et la propagande liées à ces attaques, que ce soit aux États-Unis, au Canada, en Israël, en Finlande, en France ou encore en Autriche.

Il est souvent difficile de savoir comment l'IA a exactement été utilisée car les services de sécurité ne divulguent pas ce genre d'informations. Mais à la fin de l'année dernière, un expert interrogé dans le cadre d'une enquête déclarait devant le Parlement britannique que "les dossiers judiciaires et les rapports d'expertise font de plus en plus état de discussions dans lesquelles des suspects demandent à des modèles linguistiques des instructions pour fabriquer des bombes, une validation idéologique ou des justifications pour commettre des attentas".

Le phénomène ne concerne pas que des individus. Des groupes extrémistes utilisent également de plus en plus l'IA. Des chercheurs ont par exemple analysé la manière dont le Groupe de soutien à l'islam et aux musulmans (Jnim), affilié à Al-Qaïda et basé au Mali, a eu recours à l'IA pour modifier des drones.

Dans une analyse publiée en juin pour le Global Network on Extremism and Technology, les chercheurs en sécurité Yuri Neves et Emily Klein ont observé que les partisans de groupes extrémistes tels que l'organisation État islamique ainsi que des groupes d'extrême droite discutaient régulièrement de la manière d'utiliser l'IA sur les plateformes de messagerie.

Les deux chercheurs travaillent pour Moonshot, une organisation qui lutte contre les menaces en ligne. Ils ont par exemple repéré sur l'application de messagerie Telegram des canaux extrémistes consacrés à l'utilisation de l'IA et ont également constaté que des acteurs extrémistes "partageaient des prompts d'IA et des liens vers des conversations, coordonnaient des stratégies pour obtenir les réponses souhaitées de la part de chatbots et se partageaient les coûts des abonnements à ChatGPT".

L'université de Cambridge a publié récemment une étude comprenant des entretiens avec des membres de Boko Haram au Nigeria, qui ont expliqué en détail comment le groupe utilisait des modèles d'IA, notamment ChatGPT, Claude, Gemini et Grok, pour planifier des attaques, concevoir des engins explosifs, entretenir et dépanner des armes, ainsi que pour améliorer la sécurité opérationnelle.

Rueben Dass, chercheur associé à la S. Rajaratnam School of International Studies de Singapour, a également constaté que les chatbots basés sur l'IA jouaient désormais un rôle nouveau dans les attaques terroristes menées par des "loups solitaires".

"Avant, on parlait beaucoup du concept des "planificateurs virtuels” : des individus basés dans des zones de conflit entraient en contact avec des personnes sur les réseaux sociaux pour tenter de les inciter à commettre des attentats", explique Rueben Dass à la DW. "Je ne pense pas qu'on puisse affirmer que les humains ont été remplacés, mais aujourd'hui, dans une certaine mesure, ces acteurs isolés se tournent vers l'IA, par exemple ChatGPT, pour obtenir ce soutien."

L'année dernière, "Voice of Khorasan", l'organe de presse de l'organisation État islamique, a publié des conseils sur l'utilisation de l'IA, comme le confirme Moustafa Ayad, directeur exécutif pour l'Afrique, le Moyen-Orient et l'Asie à l'Institute for Strategic Dialogue, basé au Royaume-Uni.

L'écosystème djihadiste utilise l'IA de multiples façons, a-t-il déclaré à la Deutsche Welle. Cela va de la création de mèmes et de vidéos de danse sur TikTok à la propagande transfrontalière. "Il existe également un groupe dédié qui tente de pirater l'IA pour l'utiliser à des fins de planification opérationnelle et de préparation. Le spectre est très large", explique Moustafa Ayad, "et c'est là que réside le problème. L'IA peut à la fois rationaliser et soutenir les processus de propagande, tout en contribuant à la planification opérationnelle et à la préparation."

Dans quelle mesure l'utilisation de l'IA par des extrémistes est-elle dangereuse ?

Pour l'heure, il est difficile de dire exactement à quel point le phénomène est dangereux. 

Aujourd'hui, comme le soulignent Rueben Dass et d'autres experts, un terroriste en herbe peut assez facilement trouver sur Internet des informations sur la fabrication de bombes ou d'armes à feu imprimées en 3D, sans avoir besoin de l'aide de l'IA.

"Dans de nombreux débats, on se demande si le système d'IA fournit des informations qu'une personne ne pourrait pas obtenir autrement ?" raconte Yuri Neves, responsable de recherche chez Moonshot. "Mais en fait, cela fait-il une différence sur le fond ?"

Emily Klein, qui travaille également chez Moonshot, affirme que les LLM "doivent être considérés comme le prolongement des technologies disruptives".

Elle explique qu'Internet ou les applications de messagerie cryptée étaient également des technologies de rupture et qu'elles ont elles aussi été adoptées par des acteurs extrémistes.

"Autrement dit, on ne peut pas nécesaireement dire que l'IA est directement responsable d'une augmentation du nombre de terririste", dit Emily Klein. "Je dirais que cela tient davantage à la manière dont l'IA et les individus interagissent et à la façon dont cela influe sur le parcours d'une personne vers la violence. Par exemple, avant même d'en arriver à la recherche d'informations ou à la planification d'une attaque, l'IA peut raccourcir les étapes de ce parcours vers la violence [car] elle valide les griefs ou encourage de manière presque servile une personne à aller dans le sens de ce en quoi elle croit déjà."

Les enfants, des cibles vulnérables

"Une personne déterminée finira par trouver la plupart des informations" concède Adam Haldey, directeur de Tech Against Terrorism. "Mais ce que ces modèles changent, c'est la rapidité, la facilité et l'exhaustivité. Des personnes qui, auppavant, manquaient de temps, de ressources ou de compétences peuvent désormais aller beaucoup plus loin, beaucoup plus vite."

Mais ce qui est encore plus inquiétant, selon Adam Haldey, c'est que les chatbots basés sur l'IA sont interactifs. "C'est une chose de trouver un manuel pour fabriquer une bombe, c'en est une autre d'avoir un coach qui vous guide dans le processus de fabrication".

Rueben Dass, lui, argumente que si l'IA peut fournir plus rapidement davantage d'informations à un auteur d'attentat potentiel, il est peu probable qu'ils rendent un acte terroriste plus "efficace".

"Le 'succès' de tout acte terroriste est multidimensionnel," explique-t-il. "Et je ne pense pas qu'il soit 'couronné de succès' uniquement grâce à l'utilisation de l'IA. Je ne pense pas non plus qu'on puisse affirmer que nous allons connaître beaucoup plus d'actes [terroristes] à cause de l'IA. Mais ce à quoi nous allons probablement assister, c'est à un nombre beaucoup plus important d'attaques impliquant l'utilisation de l'IA, d'une manière ou d'une autre."

Adam Hadley est d'accord. "La tendance est claire" dit-il, soulignant qu'une grande partie des personnes radicalisées en Europe, au Royaume-Uni et aux États-Unis sont des adolescents ou des enfants.

"Compte tenu du rôle que jouent déjà Internet et les réseaux sociaux dans la radicalisation des jeunes, nous pensons que ce n'est qu'une question de temps avant que les chatbots ne deviennent un élément majeur du problème."

Rédaction : Jess Smee