Zwolnienia

OpenAI poinformowało w piątek w serwisie X, że w ubiegłym tygodniu zwolniło troje badaczy po tym, jak dochodzenie wykazało naruszenie zasad dotyczących obsługi poufnych informacji. Są to Jasmine Wang, Tomek Korbak i Mikita Balesni. Firma przekazała, że dochodzenie "ujawniło znaczące nadużycie zaufania wykraczające poza to, co opisano w opublikowanym przez nich liście", jednak nie podała szczegółów naruszeń. Rzecznik firmy powiedział już 2 października stacji BBC, że dochodzenie "potwierdziło, iż osoby te niewłaściwie obchodziły się z poufnymi informacjami poza ustalonymi procedurami firmowymi".

Stanowisko OpenAI

OpenAI utrzymuje, że decyzja nie miała związku z kwestiami bezpieczeństwa. Powtarzając to twierdzenie w notatce liderów działu badań z piątkowego poranka, firma napisała:

Chcemy jasno podkreślić, że decyzje te nie dotyczyły zgłaszania obaw o bezpieczeństwo ani wyrażania opinii.

Firma stwierdziła, że debaty na temat bezpieczeństwa i badań odbywają się codziennie, często są bardzo krytyczne i są aktywnie wspierane, a pracownicy nie są zwalniani za zgłaszanie uwag. OpenAI przekazało "The Wall Street Journal", że troje badaczy nie zostało zwolnionych za krytykę środków bezpieczeństwa firmy, dziękując im jednocześnie za ich wkład. Firma poinformowała również CNN, że zwolnienia nie wynikały ze zgłaszania obaw o bezpieczeństwo modeli OpenAI, a cała trójka dopuściła się dalszych naruszeń poza udostępnieniem informacji zewnętrznej organizacji badawczej.

List badaczy

Cała trójka opublikowała w czwartek list otwarty, w którym kwestionuje swoje zwolnienie. Ostrzegli, że "bardzo publiczny sposób" komunikowania o zwolnieniach może mieć "mrożący" efekt dla innych pracowników. Balesni napisała w serwisie X wraz z listem:

Wierzę, że zostaliśmy zwolnieni za przedkładanie bezpieczeństwa nad krótkoterminowe interesy OpenAI jako korporacji.

Korbak twierdzi, że był głównym kontaktem OpenAI dla METR, zewnętrznej organizacji badawczej, a rozmowy z nią były częścią jego obowiązków. Napisał również, że od miesięcy zgłaszał obawy, iż firma traci zdolność do monitorowania tego, co myślą agenci AI.

Dla jasności: rozmowy z METR były moją pracą.

Cała trójka stwierdziła również, że nie była źródłem artykułu opublikowanego w zeszłym miesiącu przez "The Information" na temat obaw dotyczących bezpieczeństwa najnowszego modelu OpenAI.

Włamania i opóźniona premiera modelu

Zwolnienia następują po lecie pełnym incydentów z udziałem agentów AI OpenAI. Jak podaje NOS, w lipcu 1200 agentów włamało się na platformę AI Hugging Face. Był to pierwszy z dwóch przypadków w ciągu trzech miesięcy, kiedy OpenAI musiało wstrzymać prace nad swoimi modelami. Według N-tv, OpenAI odwołało premierę modelu GPT-6.1 Astra na dzień przed konferencją deweloperską, po tym jak model nie przeszedł wewnętrznych testów bezpieczeństwa i wykazał niepożądane zachowania. Zwolnienie personelu zajmującego się bezpieczeństwem przyciągnęło również uwagę ustawodawców.

Co dalej

OpenAI poinformowało, że finalizuje umowy z zewnętrznymi audytorami bezpieczeństwa i ogłosi szczegóły w nadchodzących tygodniach. Badacze wezwali firmę do dotrzymania publicznych zobowiązań dotyczących zaangażowania zewnętrznych audytorów i nieużywania ich zwolnienia jako "pretekstu do wycofania się z tych partnerstw". Wang napisała w serwisie X, że "nie byliśmy pierwszymi, których usunięto z OpenAI w podejrzanych okolicznościach", dodając:

Jeśli pracownicy nie sprzeciwią się teraz tego rodzaju manewrom, obawiam się, że nie będziemy ostatnimi.

N-tv donosi, że OpenAI przełożyło planowaną na jesień pierwszą ofertę publiczną (IPO), a dyrektor generalny Sam Altman jest wśród liderów branży AI wzywających do wolniejszego tempa rozwoju.