Anthropic, une entreprise américaine spécialisée dans le développement de l’intelligence artificielle, a déclaré dans son rapport de renseignement sur les menaces que les cybercriminels utilisent de plus en plus l’IA pour mener des cyberattaques.

La société a ajouté que son chatbot “Claude” a été utilisé illégalement pour infiltrer des réseaux, voler et analyser des données, et formuler des “demandes d’extorsion psychologiquement ciblées”.

Dans certains cas, les attaquants ont menacé de publier des informations volées à moins de recevoir des sommes dépassant 500 000 dollars.

La société a indiqué que rien que le mois dernier, 17 organisations des secteurs de la santé, du gouvernement et des institutions religieuses ont été ciblées.

“Claude” a aidé les attaquants à identifier les vulnérabilités de sécurité, à localiser les réseaux ciblés et à déterminer les données à extraire.

Jacob Klein, directeur d’Anthropic, a déclaré au site technologique “The Verge” que de telles opérations nécessitaient auparavant des équipes spécialisées d’experts, mais que l’IA permet désormais à une seule personne de lancer des attaques sophistiquées.

Anthropic a également documenté des cas d’agents nord-coréens utilisant le chatbot “Claude” en se faisant passer pour des programmeurs travaillant à distance pour des entreprises américaines afin de “financer les programmes d’armes nord-coréens”, l’IA les aidant à communiquer avec les employeurs et à accomplir des tâches pour lesquelles ils manquaient de compétences.

Historiquement, les travailleurs nord-coréens devaient suivre des années de formation à cet effet, mais “Claude et d’autres modèles ont effectivement supprimé cette contrainte”, a déclaré la société.

Des criminels ont également inventé des plans d’escroquerie alimentés par l’IA vendus en ligne, notamment un bot sur l’application Telegram utilisé dans des escroqueries sentimentales, manipulant émotionnellement les victimes en plusieurs langues pour extorquer de l’argent.

Anthropic a confirmé avoir déjà mis en place des mesures préventives pour limiter les abus, mais les attaquants continuent de chercher des moyens de les contourner.

La société a indiqué que les leçons tirées de ces incidents sont utilisées pour renforcer la protection contre la cybercriminalité alimentée par l’IA.