Dies ist ein Beitrag von mytalents.ai, einer Lernplattform zur Schulung und Weiterbildung von Mitarbeitern im Einsatz von generativer Künstlicher Intelligenz im Arbeitsalltag.

Welche Initiativen für eine Kennzeichnung von KI-Inhalten sind für dich zurzeit relevant?

Content Authenticity Initiative, kurz CAI (https://contentauthenticity.org/), welche von Adobe, New York Times & Twitter initiiert wurde. Diese entwickelt den offenen Standard Coalition for Content Provenance and Authenticity - C2PA (https://c2pa.org/), der den Ursprung, sowie jede Bearbeitung eines Bild erfasst und in den Metadaten des Bildes speichert.

Wie kann man KI-generierte Inhalte überhaupt kennzeichnen?

Unsichtbar, in den Metadaten von Bildern. Sichtbar, im Bild selber mit einem Kennzeichen.

Sollen die Wasserzeichen für das menschliche Auge sichtbar sein?

Jein. Als Besucher einer Newsseite will ich natürlich wissen, ob ein Bild KI generiert ist oder nicht. Allerdings sollten keine wichtigen Stellen überdeckt werden, weder bei „echten“ Photos, noch bei KI Bildern. Automatisiert kann man aber schwer ein Wasserzeichen so platzieren, dass es nicht stört.

Daher geht die C2PA einen anderen Weg. Der Standard markiert Bilder mit einem unsichtbaren Wasserzeichen, hat aber entsprechende Tools entwickelt, um dieses leicht auszulesen. Damit kann jeder der Bilder anzeigt, selber entscheiden wie das Wasserzeichen angezeigt wird (e.g. als Caption oder als Bildoverlay). Zusätzlich kann man sich als User Bilder auch über die Website https://contentcredentials.org/verify die Daten anzeigen lassen.

Glaubst du, dass sich ein Standard für die Kennzeichnung durchsetzen wird - oder werden es eher singuläre Lösungen sein?

C2PA scheint sich durchzusetzen. C2PA wird inzwischen von großen Digitalunternehmen wie Adobe, Google, Sony oder eben OpenAI, aber auch von Kameraherstellern wie Leica & Canon unterstützt. So werden nicht nur KI-generierte Bilder gekennzeichnet, sondern auch „echte“ Fotos. Generell wird die Herkunft eines Bildes als Wasserzeichen in den Metadaten gespeichert.

C2PA ist außerdem ein offener Standard, d.h. die Dokumentation ist als Creative Commons Attribution veröffentlicht und kann ohne Lizenzkosten implementiert werden.

Wie können Videos und Audios sinnvoll gekennzeichnet werden?

Ähnlich über die Metadaten, wie das bei Bildern gemacht wird. C2PA ist auch dafür gedacht, allerdings ist die Verbreitung noch nicht so groß. OpenAI z.B. markiert derzeit nur Bilder, aber kein Audio.