KI-generierte Inhalte sind heutzutage Gegenstand vieler Diskussionen, da diese künstlichen Kreationen in der Regel von KI unter Verwendung urheberrechtlich geschützter Inhalte "erstellt" werden, was bedeutet, dass der Datensatz während des Trainings viele Inhalte enthalten kann, die durch eine Art Lizenz geschützt sind. Dies ist an sich schon ein Problem, ebenso wie die Tatsache, dass KI-generierte Inhalte auch eine Reihe von Gefahren mit sich bringen, wie z. B. die "tiefe Fälschung", bei der eine Person, die "nicht da" war, in einem Bild oder Video in eine höchst zweideutige Position gebracht wird oder von der KI dazu gebracht wird, etwas zu sagen, was sie niemals tun würde. Dies alles veranlasst die chinesische Cyberspace-Behörde dazu, die Kennzeichnung von KI-generierten Inhalten in China vorzuschreiben, seien es Bilder, Audioinhalte oder sogar Videos.
Über den Regelungsentwurf hat The Register neulich berichtet. Nach dem derzeitigen Stand der Dinge gibt der Entwurf den verschiedenen Inhaltsanbietern und -produzenten bis Oktober Zeit, sich auf das neue Umfeld vorzubereiten, d. h. die Voraussetzungen für die Kennzeichnung von KI-generierten Inhalten zu schaffen. Wenn der Inhalt zwar KI-generiert, aber nicht speziell gekennzeichnet ist, kann er dennoch automatisch auf der Grundlage seiner Metadaten oder des Fehlens solcher Daten gekennzeichnet werden. Die Kennzeichnung wäre ein Wasserzeichen für Bilder, eine audiobasierte Warnung für Audioinhalte und eine eindeutige Kennzeichnung für Videos, wenn es sich um KI-generierte Inhalte handelt.
Es ist unwahrscheinlich, dass die Öffentlichkeit zu dem neuen Regelungsentwurf konsultiert wird, was angesichts der Einstellung Chinas zum Internet - Kontrolle, Zensur usw. - nicht allzu überraschend ist. Abgesehen davon ist die Idee an sich nicht schlecht, denn es ist auf jeden Fall sinnvoll, dem Verbraucher auf irgendeine Weise anzuzeigen, dass der Inhalt nicht von einem Künstler, einem Schriftsteller oder einem anderen Inhaltsproduzenten, sondern von einer KI erstellt wurde.
Dies und das Thema der KI-generierten Inhalte hat bereits zu vielen Diskussionen in verschiedenen Kreisen geführt, ob es nun um Künstler, Schriftsteller, Komponisten oder andere Kreative geht, die von ihrer Arbeit leben. Die generative KI war und ist Gegenstand zahlreicher Gerichtsverfahren, da die Technologie urheberrechtlich geschützte Inhalte verwendet, um verschiedene "Werke" zu produzieren. Laut Sam Whitman, dem Mitbegründer von OpenAI, ist die Verwendung urheberrechtlich geschützter Inhalte bei der Erstellung und dem Betrieb von KI-Tools unvermeidlich, was akzeptabel ist, aber es muss eine Lösung gefunden werden, die für alle akzeptabel ist.
Mit der Zeit wird es mit Sicherheit Praktiken und Vorschriften geben, die den generativen KI-Prozess in eine bestimmte Richtung zwingen. In China wurde ein Prozess zur Kennzeichnung von KI-generierten Inhalten eingeleitet, der es unmöglich machen wird, KI-generierte Inhalte in China vor Ende dieses Jahres hochzuladen, ohne eine "rote Flagge" zu sehen.
