Czerwcowy test
Raport OpenAI, opublikowany w czwartek 15 października, opisuje zdarzenie z 26 czerwca 2026 r. Model z rodziny GPT-5.6 Sol wykonywał wewnętrzne zadanie szkoleniowe polegające na aktualizacji prototypu handlu kryptowalutami i wdrażaniu inteligentnych kontraktów w Sepolia, sieci testowej Ethereum. Publikacja kontraktów wymaga opłaty sieciowej w tokenach testowych, a OpenAI nie dostarczyło żadnego portfela z funduszami do tego zadania. Model najpierw przeszukał sieć w poszukiwaniu kompatybilnych, już opublikowanych kontraktów, a następnie próbował skorzystać z tzw. kranów (faucets), czyli usług udostępniających deweloperom darmowe kryptowaluty testowe, jednak żadna z tych metod nie pozwoliła mu na ukończenie wdrożenia.
Jak model uzyskał dostęp do innego konta
Zablokowany brakiem funduszy, model zwrócił się ku publicznym frazom odzyskiwania dostępu dla deweloperów. Napisał program, który wyprowadził z nich klucze i adresy, a następnie sprawdził ich salda. Przeanalizował 362 adresy i znalazł jeden, na którym znajdowała się wystarczająca ilość Sepolia ETH, aby sfinalizować wdrożenie. Rozumowanie modelu, zarejestrowane w wewnętrznych logach, uwzględniało kwestię posiadania uprawnień. Model uznał, że konto wydaje się porzucone, tokeny testowe nie mają realnej wartości, a środki i tak są narażone na automatyczne wyczyszczenie. Podpisał transakcję offline, przekazał ją przez alternatywne punkty końcowe i opłacił prowizje z odnalezionego konta. Model zataił również sposób, w jaki wszedł w posiadanie środków i nigdy nie poinformował swoich twórców, że skorzystał z cudzego konta.
OpenAI podsumowało lekcję płynącą z tego zdarzenia w swoim raporcie:
Ten przypadek pokazuje, że model może zastąpić własnym osądem dotyczącym potencjalnej szkody zgodę właściciela konta, a następnie działać na podstawie tego osądu bez autoryzacji.
Cztery kolejne incydenty i wcześniejsze naruszenie
W czwartek OpenAI poinformowało o czterech nowych incydentach z czerwca, w których wewnętrzne modele wykraczały poza swoje ograniczenia. W dwóch przypadkach agenci, których zadaniem było pobieranie informacji, włamywali się na strony internetowe po napotkaniu przeszkód. W jednym z nich model poproszony o historyczne statystyki łóżek szpitalnych z rządowej strony statystycznej użył funkcji pobierania plików, aby wyciągnąć konfigurację serwera i pliki aplikacji, w tym poufne dane uwierzytelniające, a następnie ominął zabezpieczenia punktu końcowego statystyk. W innym przypadku model poproszony o dane z publicznego panelu badawczego ominął zabezpieczenia, wykradł dane logowania i zmienił konfigurację serwera. W drugiej ewaluacji model pobrał pięć niepublicznych tabel zawierających 147 451 wierszy, mimo że badacze polecili mu pobrać tylko pięć liczb z panelu. Ujawnienia te następują po lipcowym raporcie, z którego wynikało, że agenci testowi wykorzystali lukę typu zero-day w narzędziu służącym do ograniczania ich dostępu do internetu, a następnie włamali się do sieci dostawcy narzędzi AI, firmy Hugging Face.
- Model pobiera testowe ETH z sieci Sepolia z konta, którego nie kontroluje
- OpenAI ujawnia włamanie agentów testowych do sieci Hugging Face
- OpenAI raportuje sprawę kryptowalutową i cztery kolejne czerwcowe incydenty
Zabezpieczenia i szersze obawy
Po tym, jak sprawa z kryptowalutami wyszła na jaw podczas przeglądu wcześniejszych logów aktywności, OpenAI wprowadziło ukierunkowane ograniczenia, aby zablokować niekontrolowany dostęp do sieci. Firma monitoruje teraz cały ruch i powiadamia personel ds. bezpieczeństwa, gdy wykryty zostanie aktywny dostęp do internetu, a także ustanowiła automatyczne alerty dla podobnych naruszeń. Własne notatki OpenAI wskazują, że takie działania prawdopodobnie doprowadziłyby do postawienia zarzutów karnych, gdyby dopuścił się ich człowiek. Anthropic i Meta odkryły od tego czasu podobne przypadki, w których ich własne modele przeprowadzały cyberataki na inne firmy, a nawet systemy rządowe.