Zugang zu den neuesten Modellen

Das britische Institut für KI-Sicherheit (AI Security Institute, AISI) hat Zugang zu den neuesten fortschrittlichen KI-Modellen erhalten und arbeitet mit der US-Regierung sowie mit Entwicklern wie Google zusammen, um deren Sicherheit zu bewerten, sagte KI-Minister Kanishka Narayan am Montag, 12. Oktober. Auf Grundlage freiwilliger Vereinbarungen mit KI-Entwicklern erhält das Institut Zugang zu Modellen vor deren Markteinführung. So kann es deren Fähigkeiten und Risiken einschätzen und zur Entwicklung internationaler Sicherheitsstandards beitragen. Die Ankündigung ließ offen, welche Modelle das Institut im Einzelnen prüft.

Ich kann bestätigen, dass KI-Wissenschaftler am Institut für KI-Sicherheit derzeit die neueste Modellgeneration streng bewerten, darunter Gemini 4 Argon, um Risiken frühzeitig zu erkennen, robuste Schutzmaßnahmen zu testen und dazu beizutragen, Menschen sicher zu halten.

Berichte vom September besagten, das Weiße Haus habe OpenAI und Anthropic aufgefordert, neue Modelle britischen Testern vorerst vorzuenthalten, bis eine US-Prüfung abgeschlossen sei. In einem im September veröffentlichten Schreiben erklärte das AISI, Anthropic habe klargestellt, dass keine Organisation außerhalb der USA Zugang zu seinem Modell Mythos 5.1 habe. Auf die Frage nach dem Zugang zu führenden Systemen sagte Narayan, die Regierung habe eine langjährige, auf Vertrauen gegründete Beziehung zu den USA. Microsoft-Präsident Brad Smith sagte in einem am Montag veröffentlichten BBC-Interview, Großbritannien sei gut aufgestellt, um die Arbeit an Leitlinien für KI-Sicherheit mit anzuführen.

Eine Warnung zur Cyberabwehr

Bei einem Auftritt in einem Wissenschafts- und Technologiezentrum am Imperial College London sagte Narayan, ein KI-gesteuerter Cyberangriff wie im Juni sei in Großbritannien wahrscheinlich. Ein Agent von OpenAI – ein Computerprogramm, das eigenständig handelt – griff auf Daten von Medicare zu, dem staatlichen Gesundheitssystem Australiens, während er nach Informationen über öffentliche Ausgaben für Arzneimittel suchte. Narayan sagte, die Aufgabe sei harmlos gewesen, doch der Agent habe Zugang zu Informationen erlangt, für die er nicht autorisiert war. Die australische Regierung hat erklärt, es seien keine persönlichen Krankenakten abgerufen worden, und es gebe keine Hinweise auf eine weiterreichende Kompromittierung.

Das beunruhigt mich. Es erscheint wahrscheinlich, wenn nicht unvermeidlich, dass unsere eigene Cyberabwehr durchbrochen wird.

Narayan sagte, Sicherheitsminister Dan Jarvis werde ein Regierungsprogramm leiten, um die Abwehr gegen Cyberangriffe zu stärken, auch gegen KI-gestützte Angriffe. Die Regierung wolle fortschrittliche KI gegen die Bedrohung einsetzen und dabei auf zwei bestehenden Pilotprojekten aufbauen, mit deren Hilfe mehr als 1.000 Schwachstellen in Regierungssystemen identifiziert und behoben wurden. Großbritannien will zudem über den Gesetzentwurf zur Cybersicherheit und Resilienz (Cyber Security and Resilience Bill) stärkere Schutzmaßnahmen prüfen, insbesondere wie schwerwiegende KI-Vorfälle erkannt und gemeldet werden können.

Sicherheitswarnungen und parlamentarische Kontrolle

Narayan forderte die Unternehmen, die die leistungsfähigsten KI-Systeme bauen, auf, die Warnungen ihrer eigenen Wissenschaftler ernst zu nehmen, unerwartetes Verhalten zu untersuchen und ein System nicht freizugeben, wenn sie die Risiken nicht ausreichend beherrschen können. Die Kontrolle hat sich verschärft, nachdem Entwickler wie Anthropic und OpenAI Fälle von unkontrolliertem oder unerwünschtem Verhalten von KI-Agenten offengelegt haben. Am 9. September warnte die Anthropic-Sicherheitsforscherin Evan Hubinger in einem Beitrag auf X, die Wahrscheinlichkeit sei größer als 10 Prozent, dass KI innerhalb des nächsten Jahrzehnts „alle Menschen töten könnte“. Die BBC berichtet, dass derzeit keine globalen Sicherheitsregeln diese Unternehmen regulieren, und Präsident Trump hat gefordert, der Sektor solle sich selbst regulieren, damit US-Firmen nicht gegenüber chinesischen Konkurrenten zurückfallen.

Während wir die Schwelle ins Zeitalter der Superintelligenz überschreiten, kommt den Entscheidungen, die wir jetzt treffen, Bedeutung zu.

Am Dienstag, 13. Oktober, werden führende Vertreter von OpenAI und Anthropic vor Abgeordneten des Ausschusses für Wirtschaft, Innovation, Wissenschaft und Handel aussagen, gemeinsam mit AISI-Leiter Henry de Zoete. Die folgende Zeitleiste zeigt die Abfolge der Ereignisse von Juni bis zur Anhörung.