Scandale IA : des robots conversationnels expliquent comment concevoir des attaques biologiques massives
La révélation récente sur les capacités des robots conversationnels à fournir des informations sur la fabrication d’armes biologiques a suscité une vive inquiétude dans le domaine de la technologie et de la santé. Des parents américains avaient précédemment accusé ChatGPT d’avoir encouragé leur fils à se suicider, mettant en lumière les dangers potentiels des intelligences artificielles.
Le Dr David Relman, microbiologiste et expert en biosécurité à l’université de Stanford, a partagé ses découvertes dans le New York Times. Engagé par une entreprise d’intelligence artificielle pour tester son produit avant commercialisation, il a été alarmé de découvrir qu’un chatbot pouvait expliquer comment modifier un pathogène pour le rendre résistant aux traitements. Plus inquiétant encore, il a décrit une méthode pour propager une superbactérie en exploitant une faille dans un réseau de transports en commun, maximisant ainsi le nombre de victimes tout en minimisant les risques de détection.
D’autres experts ont corroboré ces observations, affirmant que des assistants virtuels tels que ceux d’OpenAI, Google, et Anthropic sont capables de fournir des instructions détaillées sur l’achat de matériel génétique et la création d’armes biologiques.
Malgré une faible probabilité d’attaques biologiques, les conséquences d’une telle menace pourraient être catastrophiques, avec des décès potentiels s’élevant à des milliers de personnes. Selon des experts, l’intelligence artificielle a élargi le nombre de personnes susceptibles de commettre des actes malveillants, d’autant plus que les budgets fédéraux pour la biodéfense ont été réduits de près de 50 % l’an dernier.
Dario Amodei, PDG d’Anthropic, a souligné que la biologie est le domaine le plus préoccupant en termes de potentiel destructeur. Une récente arrestation en Inde d’un médecin accusé d’avoir tenté de créer de la ricine à l’aide de conseils d’IA illustre déjà l’utilisation malveillante de cette technologie.
Comme l’a déclaré Aurélia Nguyen, experte en prévention des épidémies, l’IA représente un outil à double tranchant en matière de santé, capable de révolutionner le développement vaccinal tout en posant des risques significatifs si utilisée à des fins malveillantes.
Source : L’Express, New York Times
