Die Entlassungen

OpenAI erklärte am Freitag in einem Beitrag auf X, das Unternehmen habe in der vergangenen Woche drei Forscher entlassen, nachdem eine Untersuchung ergeben habe, dass sie gegen Richtlinien zum Umgang mit sensiblen Informationen verstoßen hätten. Es handelt sich um Jasmine Wang, Tomek Korbak und Mikita Balesni. Das Unternehmen erklärte, seine Untersuchung habe "einen erheblichen Vertrauensbruch aufgedeckt, der über das hinausgeht, was in dem von ihnen veröffentlichten Brief dargelegt wird", nannte jedoch keine Einzelheiten zu den Verstößen. Ein Sprecher hatte der BBC bereits am 2. Oktober gesagt, die Untersuchung habe "bestätigt, dass diese Personen sensible Informationen außerhalb der etablierten Unternehmensverfahren falsch behandelt haben".

OpenAIs Darstellung

OpenAI hält daran fest, dass die Entscheidung nichts mit Sicherheit zu tun habe. In einer Mitteilung der Forschungsleiter vom Freitagmorgen wiederholte das Unternehmen diese Darstellung und schrieb:

Wir möchten ganz klarstellen, dass es bei diesen Entscheidungen nicht darum ging, Sicherheitsbedenken zu äußern oder sich öffentlich zu äußern.

Das Unternehmen erklärte, Debatten über Sicherheit und Forschung fänden täglich statt, seien oft äußerst kritisch und würden aktiv gefördert; es habe Mitarbeiter nicht wegen der Äußerung von Bedenken entlassen und tue dies auch nicht. Gegenüber dem Wall Street Journal erklärte OpenAI, die drei seien nicht wegen Kritik an den Sicherheitsmaßnahmen des Unternehmens entlassen worden, und dankte ihnen für ihre Beiträge. Gegenüber CNN erklärte das Unternehmen zudem, die Entlassungen seien nicht auf die Äußerung von Sicherheitsbedenken zu OpenAIs Modellen zurückzuführen, und die drei hätten weitere Verstöße begangen, die über die Weitergabe von Informationen an eine externe Forschungsorganisation hinausgingen.

Der Brief der Forscher

Die drei veröffentlichten am Donnerstag einen offenen Brief, in dem sie ihre Entlassungen bestreiten. Sie warnten, die "sehr öffentliche Art und Weise", in der das Unternehmen über die Entlassungen kommuniziere, könne eine "einschüchternde" Wirkung auf Beschäftigte haben. Balesni schrieb auf X zusammen mit dem Brief:

Ich glaube, wir wurden entlassen, weil wir Sicherheit über die kurzfristigen Interessen von OpenAI als Unternehmen gestellt haben.

Korbak sagt, er sei OpenAIs Hauptansprechpartner für METR gewesen, eine externe Forschungsorganisation, und der Austausch mit ihr sei seine Aufgabe gewesen. Er schrieb außerdem, er habe monatelang Bedenken geäußert, dass das Unternehmen die Fähigkeit verliere zu überwachen, was KI-Agenten denken.

Um es klarzustellen: Der Austausch mit METR war meine Aufgabe.

Die drei erklärten zudem, sie seien nicht die Quelle eines im vergangenen Monat von The Information veröffentlichten Artikels über Sicherheitsbedenken im Zusammenhang mit OpenAIs neuestem Modell.

Hacks und ein verzögerter Modellstart

Die Entlassungen folgen auf einen Sommer mit Vorfällen rund um OpenAIs KI-Agenten. NOS berichtet, dass im Juli 1.200 Agenten in die KI-Plattform Hugging Face eindrangen – der erste von zwei Fällen binnen drei Monaten, in denen OpenAI die Arbeit an seinen Modellen unterbrechen musste. Laut N-tv sagte OpenAI die Veröffentlichung von GPT-6.1 Astra einen Tag vor einer Entwicklerkonferenz ab, nachdem das Modell interne Sicherheitstests nicht bestanden hatte und unerwünschtes Verhalten zeigte. Auch die Entlassung von Sicherheitspersonal hat die Aufmerksamkeit von Gesetzgebern erregt.

Wie es weitergeht

OpenAI erklärte, das Unternehmen finalisiere Verträge mit externen Sicherheitsgutachtern und werde in den kommenden Wochen Einzelheiten bekannt geben. Die Forscher forderten das Unternehmen auf, seine öffentlichen Zusagen einzuhalten, externe Sicherheitsprüfer einzubinden, und ihre Entlassung nicht als "Vorwand dafür zu nutzen, sich von diesen Partnerschaften zu lösen". Wang schrieb auf X, "wir waren nicht die Ersten, die unter verdächtigen Umständen aus OpenAI gedrängt wurden", und fügte hinzu:

Wenn die Beschäftigten jetzt nicht gegen diese Art von Manöver aufstehen, befürchte ich, dass wir nicht die Letzten sein werden.

N-tv berichtet, OpenAI habe den für diesen Herbst geplanten Börsengang verschoben und CEO Sam Altman gehöre zu den KI-Führungskräften, die ein langsameres Entwicklungstempo fordern.