Stimme aus dem Netzwerk
Warum ein KI-Text trotz Wasserzeichen nicht eindeutig erkennbar bleibt
Autorin dieser Ausgabe unserer Serie „Stimme aus dem Netzwerk“ ist Dr. Alexa Scheffler, Founderin von REGULIGHT.
Nach der europäischen KI-Verordnung (Verordnung (EU) 2024/1689) müssen seit 2. August 2026 Anbieter generativer KI-Systeme (also OpenAI, Antrophic & Co.) ihre Ausgaben maschinenlesbar kennzeichnen. Artikel 50 Absatz 2 nennt dabei Audio, Bilder, Videos und ausdrücklich auch Text. Bei Bildern, Audio und Video steht gibt es viele etablierte Methoden wie etwa Wasserzeichen, Metadaten und weitere kryptografische Herkunftsnachweise. Bei reinem Copy-Paste-Text ist technisch nicht trivial.
Anthropic hat kürzlich angekündigt, für künftige Claude-Modelle eine Variante von Google DeepMinds SynthID-Text einzusetzen. Bei dem Verfahren beeinflusst ein geheimer Schlüssel, die Auswahl des nächsten Wortes, welches vom KI-Modell an die Textausgabe angehängt wird. Über einen längeren Text entsteht so ein statistisches Muster, das mit dem passenden Schlüssel erkannt werden kann.
Wird ein Text bearbeitet, schwächt sich das Wort-Wasserzeichen.
Das Verfahren hat Grenzen. Insbesondere in kurzen Texten gibt es nur wenige Wortentscheidungen, aus denen ein statistisches Muster entstehen kann. Eine verlässliche Erkennung ist deshalb schwieriger. Auch in faktischen Passagen oder beim bloßen Korrekturlesen hat das Modell wenig sprachlichen Spielraum. Entsprechend schwach kann das Wort-Wasserzeichen ausfallen.
Um das Wort-Wasserzeichen zu entwerten, reicht es nicht, einzelne Schlüsselwörter auszutauschen. Das Wasserzeichen entsteht aus dem Zusammenspiel vieler Wortentscheidungen. Ein Wort pro Satz zu ändern, ist daher kein garantierter Radiergummi. Wenn man dagegen ganze Sätze substanziell neu formuliert, kann so viel vom ursprünglichen Muster verloren gehen, dass eine Erkennung unsicher wird.
„Die entscheidende Frage ist nicht, ob KI beteiligt war, sondern wer den Inhalt geprüft, geprägt und verantwortet hat.“ Viele Grüße
Wort-Wasserzeichen helfen nicht gegen AI-Slop.
Immer mehr massenhaft durch KI-erzeugte Inhalte überschwemmen das Internet. Sogenannter „AI-Slop“ lässt sich schnell und billig produzieren, menschliche Kreativität und sorgfältige Recherche bleiben dagegen aufwendig. Deshalb füllen immer mehr glatt formulierte, aber austauschbare Texte Blogs, Newsletter und Social Media Posts.
Artikel 50 Absatz 4 der KI-Verordnung soll bei bestimmten Texten zumindest Transparenz schaffen und nimmt speziell die Autor:innen in die Pflicht. Sie müssen bei Texten, die „die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren“, offenlegen dass der Text künstlich erzeugt wurde. Es wurde aber auch ein legales Schlupfloch eingebaut: Die Kennzeichnungspflicht gilt nicht, wenn der Text menschlich überprüft wurde.
Selbst ein technisch perfektes Wasserzeichen würde das größere Problem nicht lösen. Es sagt nichts darüber aus, ob ein Beitrag sorgfältig recherchiert, fachlich richtig oder lesenswert ist. Ein vollständig von Menschen geschriebener Text kann schlecht sein. Ein mit KI formulierter Text kann dagegen die Erfahrung, Position und Handschrift einer Autorin tragen. Hinzu kommt ein Rückkopplungseffekt: Künftige KI-Modelle werden auch mit Inhalten aus dem Internet trainiert, darunter mit Material früherer Modelle. Eine in Nature veröffentlichte Studie zeigt, dass wiederholtes Training mit synthetischen Daten seltene Informationen verdrängen und die Vielfalt der Modellergebnisse verringern kann.
Die entscheidende Fähigkeit wird zukünftig deshalb nicht die Erkennung von KI-Texten sein, sondern die Bewertung ihrer Substanz: Sind die Quellen überprüfbar? Fügt der/die Autor:in eigene Erfahrung und Einordnung hinzu? Und wer übernimmt die Verantwortung, wenn etwas falsch ist?
Hinweis: Auch bei der Erstellung dieses Textes kam KI unterstützend zum Einsatz. Die inhaltliche Position, die Auswahl der Argumente und die Formulierung stammen von der Autorin und geben dem Text ihre Handschrift.
