Des scientifiques ont utilisé Claude, un assistant d’intelligence artificielle, pour des travaux de biologie, dont des recherches sur des virus. Son éditeur, Anthropic, a suspendu des comptes après avoir repéré des activités pouvant contribuer au développement d’armes biologiques. L’entreprise ne prétend pourtant pas avoir établi que ces chercheurs voulaient fabriquer une arme.
Dans son rapport rendu public le 10 septembre, Anthropic décrit cinq cas préoccupants observés entre décembre 2025 et août 2026. Les personnes concernées sont des chercheurs professionnels, parfois liés à des institutions civiles et militaires. On parle donc de l’utilisation d’un outil informatique par des scientifiques qui disposent déjà de compétences spécialisées.
La difficulté tient à ce qu’on appelle la recherche à double usage. Mieux comprendre un virus peut aider à mettre au point un traitement ou un vaccin, mais certaines connaissances peuvent aussi servir à faire du mal. La même question scientifique ne révèle pas forcément l’intention de celui qui la pose.
Claude a fourni une aide variable selon les dossiers, de l’organisation de documents à l’assistance à la recherche. Cette aide peut faire gagner du temps à un spécialiste. Elle ne constitue pas, à elle seule, la preuve qu’une arme a été produite, et Anthropic précise que ses observations ne démontrent pas une menace biologique imminente.
Une lecture pour prolonger le débat sur les capacités de l’IA et les représentations qui l’entourent.
L’intelligence artificielle n’existe pas, de Luc Julia → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Un autre chiffre mérite d’être lu avec attention. Sur trente jours d’activité associés à des institutions étatiques jugées préoccupantes, l’entreprise a identifié environ 35 projets de recherche. La majorité relevaient de la science civile ordinaire : les présenter comme autant de programmes d’armement serait trompeur.
Les suspensions de comptes s’expliquent aussi par des accès depuis des régions où Claude n’est pas proposé. Il faut donc distinguer une violation des conditions du service d’une intention criminelle démontrée. Le rapport nous donne le récit et les évaluations du fournisseur, avec une visibilité forcément partielle sur ce qui se passe ensuite dans les laboratoires.
Anthropic défend un accès aux capacités biologiques avancées réservé à des utilisateurs et à des institutions vérifiés, avec une conservation de données permettant d’enquêter sur les abus. Pour l’entreprise, les filtres automatiques ne peuvent pas, seuls, reconnaître les intentions derrière toutes les demandes scientifiques.
La prudence paraît justifiée, mais ce dispositif mérite aussi un débat public. Un fournisseur privé décide alors qui peut utiliser certains outils de recherche, tout en examinant des échanges potentiellement confidentiels. Les scientifiques devraient pouvoir comprendre les critères appliqués et contester un blocage erroné ; protéger la recherche implique aussi de lui laisser cette possibilité.
Crédit photo : Anthropic
