Des chercheurs en cybersécurité ont créé un ver informatique capable d’infecter des intelligences artificielles génératives (IA). Baptisé Moris II, celui-ci peut voler des données, envoyer des spams et propager des logiciels malveillants.
Le mode opératoire de Moris
Moris II utilise une technique appelée « adversarial self-replicating prompt ». Il s’agit d’un texte en langage naturel qui incite l’IA à générer un autre texte, ce qui permet au ver de se propager.
Le ver cible les assistants de messagerie basés sur des IA génératives. Il peut les manipuler pour leur faire dévoiler des informations confidentielles ou pour diffuser des spams.
Plus inquiétant encore, d’autres chercheurs ont montré qu’il était en mesure d’infecter un million d’agents d’IA en moins de cinq minutes.
Pour l’instant, ces attaques restent « virtuelles » et sont réalisées par des chercheurs pour tester les failles des IA.
Un danger réel pour la cybersécurité
Les experts en cybersécurité confirment bien que la création de vers informatiques pour IA représente une nouvelle menace non négligeable.
Selon l’un d’entre eux, il est important que les entreprises et les développeurs prennent les mesures adéquates pour protéger leurs systèmes contre ces attaques.
De son côté, OpenAI, l’entreprise à l’origine de ChatGPT,
a déclaré qu’elle travaille pour « rendre les systèmes plus résilients et sensibiliser les développeurs aux risques d’attaques par prompt injection. Google, pour sa part, n’a pas commenté ces recherches.
Un avenir incertain
La création de Moris II soulève de nombreuses questions. Comment les entreprises et les développeurs peuvent-ils se protéger contre ce genre d’attaques ? Quelles sont les implications pour l’avenir de l’intelligence artificielle ?
S’il est, pour l’instant, difficile d’apporter des réponses concrètes à ces interrogations, une certitude demeure : la cybersécurité est un domaine qui nécessite une évolution constante et la vigilance face aux nouvelles menaces doit rester une priorité pour les entreprises.
