Un rapport d'Anthropic détaille des tentatives bloquées de recherche sur les armes biologiques et de cyberattaques étatiques

Recherche biologique et dilemmes du double usage

Anthropic a publié un rapport de renseignement sur les menaces le 10 septembre 2026, détaillant plusieurs tentatives bloquées d'utilisation de ses modèles Claude pour la recherche sur les armes biologiques entre décembre 2025 et août 2026. L'entreprise a identifié cinq études de cas impliquant un mésusage biologique sur ses systèmes Claude Haiku, Sonnet et Opus. Dans un incident de mai 2026, un chercheur lié à un institut militaire a utilisé Claude pour rédiger une proposition de subvention visant à modifier génétiquement le virus Chikungunya transmis par les moustiques afin de le rendre plus dangereux pour les animaux par le biais de recherches sur le gain de fonction. Un autre cas impliquait un chercheur contournant les restrictions géographiques pour planifier des expériences d'adaptation de la grippe aviaire aux mammifères, tandis qu'un troisième projet cataloguait des composés de venin animal. Anthropic a expliqué qu'il reste difficile de distinguer les études médicales légitimes, comme le développement de vaccins, de la recherche sur les armes biologiques, car les projets à double usage partagent souvent les mêmes étapes de laboratoire.

Le fait qu'une institution militaire mène des recherches sur le gain de fonction est intrinsèquement préoccupant. Nous n'avons pas affaire à un personnage de bande dessinée qui déclare : « Je vais créer une arme biologique pour tuer tout le monde. » La situation est très complexe.

Armes conventionnelles et espionnage d'État

Au-delà des préoccupations biologiques, Anthropic a documenté six incidents où des opérateurs ont utilisé Claude pour développer des logiciels pour des armements conventionnels, des mécanismes de guidage et des systèmes de contrôle. L'entreprise a détecté trois cas provenant de Chine, deux de Russie et un du Yémen, couvrant des logiciels destinés aux armes à feu, missiles, drones armés et engins explosifs. Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, a noté que les améliorations rapides des capacités ont permis ces applications.

Il y a un an, si vous vouliez optimiser le logiciel d'un drone ou d'un missile, les modèles n'étaient tout simplement pas aussi efficaces qu'aujourd'hui.

Le rapport a également suivi une opération de cyberespionnage liée à la Russie qui a utilisé Claude pour automatiser des campagnes en plusieurs étapes contre le personnel militaire, diplomatique et gouvernemental ukrainien. Le groupe de pirates a compromis les réseaux Wi-Fi des hôtels, mené des attaques de phishing, détourné des comptes WhatsApp et utilisé l'IA pour réécrire du code malveillant chaque fois que des outils de sécurité le détectaient. En outre, des acteurs liés à des États en Iran et en Chine ont déployé les modèles pour la surveillance politique et des campagnes de désinformation déguisées en reportages indépendants.

Distillation de modèles et réponses de l'industrie

Le rapport a révélé que sept laboratoires chinois ont mené des attaques de distillation illicites ciblant les modèles Claude depuis février 2026, tentant d'extraire des capacités de modèles enseignants plus grands pour former des systèmes étudiants plus petits à moindre coût. Anthropic a noté qu'aucun des cas de mésusage opérationnel n'impliquait ses modèles Claude Fable ou Mythos, à l'exception des tentatives de distillation ciblant Claude Fable 5. L'entreprise a déclaré que des scientifiques et des acteurs soutenus par des États contournaient systématiquement les restrictions géographiques pour accéder à des systèmes qui restent officiellement indisponibles en Chine, en Russie et en Corée du Nord.

Aujourd'hui, nous pourrions ne pas les prévoir et, une fois libérés, ne plus être en mesure de les arrêter.

La publication a coïncidé avec des turbulences internes et des divulgations plus larges dans l'industrie. L'ingénieur d'Anthropic Jacob Coxon a démissionné plus tôt dans la semaine, déclarant que la course vers la superintelligence artificielle pourrait détruire l'humanité avant la fin de la décennie. Pendant ce temps, Google a révélé le 8 septembre 2026 qu'un individu avait tenté d'utiliser son chatbot Gemini pour obtenir un guide technique étape par étape pour synthétiser des agents biologiques militarisés. À Washington, le sénateur américain Bernie Sanders a appelé à une pause dans le développement avancé de l'IA et à une interdiction de la superintelligence, tandis que le président américain Donald Trump a abordé les pressions concurrentielles avec des adversaires étrangers le 10 septembre 2026.

Si nous ne gagnons pas sur l'IA, nous allons être dans une très mauvaise position.