Umsetzung nach den Regeln der Europäischen Union

OpenAI hat am 5. Oktober angekündigt, in den kommenden Wochen unsichtbare Textwasserzeichen in die Ausgaben von ChatGPT und Codex in der gesamten Europäischen Union einzuführen. Die Maßnahme reagiert auf Artikel 50 des EU-KI-Gesetzes, das am 2. August in Kraft getreten ist und Anbieter generativer künstlicher Intelligenz verpflichtet, synthetische Inhalte in maschinenlesbarer Form zu kennzeichnen. Kunden, die die Programmierschnittstelle von OpenAI nutzen, können die Wasserzeichenfunktion für ausgewählte Modelle sofort aktivieren. Während der Wettbewerber Anthropic im August weltweit eine Textkennzeichnung für seine Claude-Modelle einführte, beschränkt OpenAI den automatisierten Einsatz zunächst auf Nutzer in der Europäischen Union, um die Leistung zu bewerten, bevor über einen weltweiten Rollout entschieden wird.

Die Technologie mit dem Namen textGrain setzt während der Token-Generierung an, statt sichtbare Tags, versteckte Unicode-Zeichen oder zusätzliche Leerzeichen anzuhängen. Große Sprachmodelle berechnen Wahrscheinlichkeitsverteilungen für nachfolgende Token (Wörter, Wortteile oder Satzzeichen). TextGrain passt diese statistischen Wahrscheinlichkeiten nach einem geheimen mathematischen Muster subtil an, um bestimmte Token-Auswahlen zu begünstigen. OpenAI erläuterte den Zweck des Verfolgungssystems in einer offiziellen Mitteilung.

Die Herkunft von Inhalten hilft Menschen zu verstehen, woher Inhalte stammen, wie sie erstellt oder verändert wurden und ob sie Signale enthalten, die mit unseren Modellen verbunden sind.

Erkennungsmechanismen und technische Grenzen

Ein spezialisierter Detektor analysiert Textpassagen, um die vom Modell erzeugten statistischen Regelmäßigkeiten aufzuspüren. Das Ändern von Schriftarten, das Kopieren von Passagen oder das Einfügen von reinem Text entfernt das Wasserzeichen nicht, da das Muster in der konkreten Abfolge der Wörter steckt. OpenAI erklärte, textGrain erreiche oder übertreffe alternative Verfahren, darunter Google SynthID-Text. Darüber hinaus deuteten unternehmenseigene Benchmarks darauf hin, dass die Generierung mit Wasserzeichen die Antwortqualität nicht verringerte, was Bedenken von Nutzern adressiert, die bei der Einführung von Wasserzeichen für Claude durch Anthropic geäußert wurden.

Die Erkennungswerkzeuge stoßen an technische Grenzen. Kürzere Texte enthalten weniger Token, was die statistische Identifizierung erschwert. Veränderungen wie Paraphrasieren, manuelles Überarbeiten von Sätzen und Übersetzungen zwischen Sprachen schwächen oder zerstören das eingebettete Muster. Der Detektor kann falsch-positive Ergebnisse erzeugen, indem er menschliche Texte fälschlich als synthetisch einstuft, ebenso falsch-negative Ergebnisse, indem er KI-generierte Passagen übersieht. OpenAI beschränkte den Zugang zum Detektor während der Testphase auf zugelassene Forscher und Fachorganisationen. Das Wasserzeichen identifiziert nicht den konkreten Nutzer, erfasst nicht den Umfang menschlicher Bearbeitung und bescheinigt weder inhaltliche Richtigkeit noch Eigentumsrechte an den Inhalten.

Regulatorische Fristen und Wettbewerb in der Branche

Das EU-KI-Gesetz etablierte am 2. August Transparenzstandards für generative KI, mit einer Übergangsfrist zur Einhaltung bis zum 2. Dezember 2026 für Modelle, die vor diesem Datum auf den Markt gekommen sind. Der Technikexperte Bert Hubert merkte an, dass der kommerzielle Wettbewerb die Einführung in der gesamten Branche beschleunigt.

Andernfalls muss man als Unternehmen fast erklären, warum man das nicht hat, was dem Verkaufsprozess schaden kann.

Hubert erklärte, maschinenlesbare Kennzeichnungen könnten Sicherheitssystemen helfen, betrügerisches Material abzufangen, etwa gefälschte Rechnungs-E-Mails von nachgeahmten Versorgungsunternehmen. Anthropic setzte zuvor neben statistischen Signaturen auf offene C2PA-Standards, während Google seine Forschung zum SynthID-Text-Framework 2024 in Nature veröffentlichte.