Anthropic-Bericht enthüllt blockierte Biowaffenforschung und staatliche Cyberangriffe

Biologische Forschung und Dual-Use-Dilemmata

Anthropic veröffentlichte am 10. September 2026 einen Bedrohungsanalysebericht, der mehrere blockierte Versuche detailliert, seine Claude-Modelle zwischen Dezember 2025 und August 2026 für Biowaffenforschung zu nutzen. Das Unternehmen identifizierte fünf Fallstudien mit biologischem Missbrauch über seine Systeme Claude Haiku, Sonnet und Opus hinweg. In einem Vorfall im Mai 2026 nutzte ein Forscher, der mit einem Militärinstitut verbunden war, Claude, um einen Finanzierungsantrag zu verfassen, der darauf abzielte, das durch Mücken übertragene Chikungunya-Virus durch Gain-of-Function-Forschung genetisch so zu verändern, dass es für Tiere schädlicher wird. Ein weiterer Fall betraf einen Forscher, der geografische Beschränkungen umging, um Experimente zur Anpassung der Vogelgrippe an Säugetiere zu planen, während ein drittes Projekt tierische Giftstoffverbindungen katalogisierte. Anthropic erklärte, dass es weiterhin schwierig sei, legitime medizinische Studien, wie die Impfstoffentwicklung, von der Biowaffenforschung zu unterscheiden, da Dual-Use-Projekte oft identische Laborarbeitsschritte aufweisen.

Die Tatsache, dass eine Militäreinrichtung Gain-of-Function-Forschung betreibt, ist an sich besorgniserregend. Wir haben es nicht mit einer Comicfigur zu tun, die erklärt: ‚Ich werde eine Biowaffe erschaffen, um alle zu töten.‘ Die Situation ist sehr komplex.

Konventionelle Waffen und staatliche Spionage

Über biologische Bedenken hinaus dokumentierte Anthropic sechs Vorfälle, bei denen Betreiber Claude nutzten, um Software für konventionelle Waffen, Lenkmechanismen und Kontrollsysteme zu entwickeln. Das Unternehmen erfasste drei Fälle aus China, zwei aus Russland und einen aus Jemen, die Software für Schusswaffen, Raketen, bewaffnete Drohnen und Sprengkörper umfassten. Jacob Klein, Leiter der Bedrohungsanalyse bei Anthropic, merkte an, dass schnelle Verbesserungen der Fähigkeiten diese Anwendungen ermöglichten.

Vor einem Jahr waren die Modelle einfach nicht so effektiv wie heute, wenn man die Software einer Drohne oder einer Rakete optimieren wollte.

Der Bericht verfolgte auch eine mit Russland verbundene Cyber-Spionage-Operation, die Claude nutzte, um mehrstufige Kampagnen gegen ukrainisches Militär-, Diplomatie- und Regierungspersonal zu automatisieren. Die Hackergruppe kompromittierte Hotel-WLAN-Netzwerke, führte Phishing-Angriffe durch, kaperte WhatsApp-Konten und nutzte KI, um bösartigen Code umzuschreiben, sobald Sicherheitstools ihn erkannten. Darüber hinaus setzten staatlich verbundene Akteure im Iran und in China die Modelle für politische Überwachung und Desinformationskampagnen ein, die als unabhängige Berichterstattung getarnt waren.

Modelldestillation und Branchenreaktionen

Der Bericht offenbarte, dass sieben chinesische Labore seit Februar 2026 unerlaubte Destillationsangriffe auf Claude-Modelle durchführten, um Fähigkeiten von größeren Lehrermodellen zu extrahieren und damit kleinere Schülersysteme zu geringeren Kosten zu trainieren. Anthropic stellte fest, dass keiner der operativen Missbrauchsfälle seine Claude-Fable- oder Mythos-Klassen-Modelle betraf, mit Ausnahme von Destillationsversuchen, die auf Claude Fable 5 abzielten. Das Unternehmen erklärte, dass Wissenschaftler und staatlich unterstützte Akteure routinemäßig geografische Beschränkungen umgingen, um auf Systeme zuzugreifen, die offiziell in China, Russland und Nordkorea nicht verfügbar sind.

Heute könnten wir sie vielleicht nicht vorhersehen, und wenn sie erst einmal freigegeben sind, können wir sie nicht mehr aufhalten.

Die Veröffentlichung fiel mit internen Turbulenzen und breiteren Branchenenthüllungen zusammen. Anthropic-Ingenieur Jacob Coxon trat Anfang der Woche zurück und erklärte, dass das Rennen um künstliche Superintelligenz die Menschheit vor Ende des Jahrzehnts zerstören könnte. Unterdessen gab Google am 8. September 2026 bekannt, dass eine Person versuchte, seinen Gemini-Chatbot zu nutzen, um eine Schritt-für-Schritt-Anleitung zur Synthese waffenfähiger biologischer Wirkstoffe zu erhalten. In Washington forderte der US-Senator Bernie Sanders eine Pause bei der Entwicklung fortschrittlicher KI und ein Verbot der Superintelligenz, während US-Präsident Donald Trump am 10. September 2026 auf den Wettbewerbsdruck durch ausländische Gegner einging.

Wenn wir bei KI nicht gewinnen, werden wir in einer sehr schlechten Position sein.