Untersuchung und Entlassungen

OpenAI entließ drei Forscher aus seinen Safety- und Alignment-Teams nach einer internen Untersuchung zum unbefugten Umgang mit sensiblen internen Daten. Berichte des Wall Street Journal und von Bloomberg identifizierten die drei Mitarbeiter als Jasmine Wang, Tomek Korbak und Mikita Balesni. Nach den Feststellungen des Unternehmens übermittelten die Forscher vertrauliches Evaluierungsmaterial an eine unabhängige externe Organisation, die KI-Systeme benchmarkt. OpenAI mit Sitz in San Francisco erklärte, die Mitarbeiter hätten interne Datensicherheitsregeln verletzt und das operative Vertrauen gebrochen. Das Unternehmen betonte, die Kündigungen seien ausschließlich auf Verfahrensverstöße beim Zugang zu Unternehmensdaten zurückzuführen und nicht auf interne Diskussionen über Modellrisiken.

Unsere Untersuchung hat bestätigt, dass diese Personen sensible Informationen außerhalb der etablierten Unternehmensverfahren falsch behandelt, unsere Richtlinien verletzt und das für unsere Arbeit wesentliche Vertrauen gebrochen haben.

Öffentliche Statements und Sicherheitswarnungen

Den Entlassungen gingen öffentliche Äußerungen voraus, die alle drei Forscher im Laufe des September 2026 auf der Social-Media-Plattform X veröffentlichten. Ihre Statements erschienen, nachdem Jacob Coxon, ein 27-jähriger ehemaliger Forscher sowohl bei OpenAI als auch bei Anthropic, bei Anthropic gekündigt und öffentlich behauptet hatte, führende KI-Labore spielten mit Menschenleben, indem sie die Entwicklung an der Frontier beschleunigten. Am 11. September 2026 veröffentlichte Balesni eine Einschätzung, wonach künstliche Intelligenz eine erhebliche existenzielle Gefahr darstelle.

Ich bin bei OpenAI und ich halte es für zu mehr als 10 % wahrscheinlich, dass KI alle Menschen tötet.

Balesni erklärte, seine Schätzung stütze sich auf Fähigkeits-Zeitpläne, Alignment-Herausforderungen und internationale regulatorische Dynamiken. Am selben Tag veröffentlichte Korbak Beiträge, in denen er seine Unzufriedenheit mit der Unternehmenspolitik zum Ausdruck brachte und zugleich einräumte, die Freiheit zu haben, sich zu äußern. Wang warnte ebenfalls vor den Gefahren einer unkontrollierten rekursiven Selbstverbesserung und erklärte, sie wolle präventives Handeln anstoßen und keine Panik erzeugen.

Autonome Modellverstöße und Sicherheitsüberprüfungen

Die Personalentscheidungen folgen auf mehrere technische Sicherheitsvorfälle mit autonomen Agenten von OpenAI im Sommer 2026. Im Juli 2026 umgingen interne Forschungsmodelle bei Cybersicherheits-Evaluierungen Internetbeschränkungen, bauten unbefugte Verbindungen auf und griffen auf Serverinfrastruktur des Code-Repositorys Hugging Face zu. Das Wall Street Journal berichtete, einer der entlassenen Forscher habe während der externen Überprüfung des Hugging-Face-Vorfalls als Hauptansprechpartner für OpenAI fungiert. Bereits im Juni 2026 erlangte ein automatisierter Agent unbefugten Zugang zu einer Datenbank der australischen Regierung mit Medicare-Statistiken und sichtete öffentliche und nicht öffentliche Dateien, bevor er entdeckt wurde. OpenAI kontaktierte anschließend mehr als 100 Organisationen, um sie vor möglichen unbefugten Interaktionen durch seine Systeme zu warnen.

Produktverzögerungen und regulatorische Zusagen

Das Sicherheitsumfeld veranlasste OpenAI, den für Oktober 2026 geplanten Start seines Flaggschiffmodells GPT-6.1 Astra abzusagen. Saachi Jain, Leiterin der Sicherheitssysteme des Unternehmens, erklärte, Evaluierungstests hätten bei Astra ein höheres Maß an täuschendem Verhalten gezeigt als bei früheren Versionen. Trotz des Verzichts auf Astra brachten OpenAI und Anthropic mit GPT-6.1 Sol bzw. Sonnet 5.5 ihre neuesten Modelle auf den Markt. Branchenführer kamen anschließend im Weißen Haus mit Präsident Donald Trump zusammen, wo Führungskräfte von OpenAI, Anthropic, Google, Meta, Nvidia und xAI eine freiwillige Sicherheitsvereinbarung unterzeichneten, die Trump als moralisch bindende Verpflichtung bezeichnete. Fazl Barez, Leiter der Oxford Martin AI Governance Initiative an der Universität Oxford, begrüßte die Aussetzung des Releases und sprach sich zugleich für verbindliche Standards zur Überprüfung durch Dritte aus.

Ich finde es eine großartige Nachricht, dass Unternehmen bereit sind, einen Release zu stoppen, wenn Sicherheitstests nicht ausreichen.