Wdrożenie zgodnie z przepisami Unii Europejskiej

OpenAI ogłosiło 5 października, że w nadchodzących tygodniach wprowadzi niewidoczne znaki wodne do tekstów generowanych przez ChatGPT i Codex na terenie Unii Europejskiej. Polityka ta stanowi odpowiedź na artykuł 50 unijnego aktu o sztucznej inteligencji, który wszedł w życie 2 sierpnia i nakłada na dostawców generatywnej sztucznej inteligencji obowiązek oznaczania treści syntetycznych w formacie możliwym do odczytania przez maszyny. Klienci korzystający z interfejsu programowania aplikacji (API) OpenAI mogą natychmiast włączyć znakowanie dla wybranych modeli. Podczas gdy konkurent, firma Anthropic, wprowadziła znakowanie tekstu globalnie w sierpniu dla swoich modeli Claude, OpenAI ogranicza automatyczne wdrożenie do użytkowników z Unii Europejskiej, oceniając wydajność przed podjęciem decyzji o globalnym udostępnieniu.

Technologia o nazwie textGrain działa podczas generowania tokenów, zamiast dodawać widoczne znaczniki, ukryte znaki unicode czy dodatkowe spacje. Duże modele językowe obliczają rozkłady prawdopodobieństwa dla kolejnych tokenów (słów, podsłów lub znaków interpunkcyjnych). TextGrain subtelnie dostosowuje te prawdopodobieństwa statystyczne zgodnie z tajnym wzorem matematycznym, aby faworyzować określone wybory tokenów. OpenAI wyjaśniło cel systemu śledzenia w oficjalnym komunikacie.

Pochodzenie treści pomaga ludziom zrozumieć, skąd one pochodzą, w jaki sposób zostały stworzone lub zmodyfikowane oraz czy zawierają sygnały powiązane z naszymi modelami.

Mechanizmy wykrywania i ograniczenia techniczne

Specjalistyczny detektor analizuje fragmenty tekstu w celu zlokalizowania prawidłowości statystycznych stworzonych przez model. Zmiana czcionki, kopiowanie fragmentów czy wklejanie zwykłego tekstu nie usuwa znaku wodnego, ponieważ wzorzec znajduje się wewnątrz konkretnej sekwencji słów. OpenAI stwierdziło, że textGrain dorównuje lub przewyższa alternatywne metody, w tym Google SynthID-Text. Ponadto testy porównawcze firmy wykazały, że generowanie ze znakami wodnymi nie obniżyło jakości odpowiedzi, co stanowi odpowiedź na obawy zgłaszane przez użytkowników, gdy Anthropic wprowadziło znaki wodne do Claude.

Narzędzia wykrywające napotykają ograniczenia techniczne. Krótsze teksty zawierają mniej tokenów, co utrudnia identyfikację statystyczną. Modyfikacje takie jak parafrazowanie, ręczna edycja zdań czy tłumaczenie na inne języki osłabiają lub niszczą osadzony wzorzec. Detektor może generować wyniki fałszywie dodatnie, błędnie identyfikując ludzkie pismo jako syntetyczne, a także fałszywie ujemne, pomijając fragmenty wygenerowane przez AI. OpenAI ograniczyło dostęp do detektora dla zatwierdzonych badaczy i organizacji eksperckich podczas fazy testów. Znak wodny nie identyfikuje konkretnego użytkownika, nie rejestruje stopnia edycji przez człowieka oraz nie poświadcza dokładności faktów ani własności treści.

Terminy regulacyjne i konkurencja w sektorze

Unijny akt o sztucznej inteligencji ustanowił standardy przejrzystości dla generatywnej AI 2 sierpnia, z przejściowym terminem zgodności wyznaczonym na 2 grudnia 2026 r. dla modeli, które weszły na rynek przed tą datą. Ekspert ds. technologii Bert Hubert zauważył, że konkurencja komercyjna przyspiesza adopcję rozwiązań w całej branży.

W przeciwnym razie jako firma musisz niemal tłumaczyć się, dlaczego tego nie masz, co może być niekorzystne dla procesu sprzedaży.

Hubert wyjaśnił, że znaczniki odczytywane przez maszyny mogą pomóc systemom bezpieczeństwa w przechwytywaniu oszukańczych materiałów, takich jak fałszywe e-maile z fakturami podszywające się pod dostawców mediów. Anthropic wcześniej zastosowało otwarte standardy C2PA obok sygnatur statystycznych, podczas gdy Google opublikowało badania nad swoim frameworkiem SynthID-Text w czasopiśmie Nature w 2024 r.