Die Europäische Union ist sehr streng, was die Vorschriften für Geräte mit künstlicher Intelligenz angeht, zumindest im Vergleich zu den Vorschriften in anderen Ländern. Die EU hat die Angewohnheit, generative KI-Technologien zu prüfen, bevor sie eingeführt werden, und nun ist die Europäische Kommission die erste, die im Zuge des in den letzten Wochen aufgetretenen Skandals um die Bilderzeugung eine umfassende Untersuchung von Grok einleitet.
Der Skandal hatte Anfang des Jahres für Aufsehen gesorgt, als der Grok-Chatbot mit seiner eigenen Bildbearbeitungsfunktion in der Lage war, Menschen auf Bildern unbekleidet, spärlich bekleidet oder sogar völlig nackt zu zeigen. Dabei spielte es für das System keine Rolle, ob es sich um minderjährige Personen handelte, und es produzierte problemlos erotische Aufnahmen von Kindern. Auf die Entwicklung wurde das Grok-Team von X durch ein Bild von Elon Musk im Bikini aufmerksam.
Die EU-Kommissare haben X bereits mehrfach unter die Lupe genommen, und nun wird von den Behörden gemeinsam gegen X und Grok ermittelt, da die EU-Koordinatoren für digitale Dienste feststellen wollen, ob Elon Musks Plattform mit dem DSA, dem Gesetz über digitale Dienste, vereinbar ist. Es besteht der Verdacht, dass X bei der Integration neuer Chatbot-Funktionen in seinen Mikroblog nicht sichergestellt hat, dass die Risiken bewertet und gemildert wurden.
Nach dem DSA müssen alle Innovationen einer detaillierten und eingehenden Risikobewertung unterzogen werden, die hätte zeigen müssen, dass Grok dazu neigt, gegen das Gesetz zu verstoßen. Schließlich ist es in der EU illegal, sexuell manipulierte Bilder und Inhalte zu erstellen und zu verbreiten, die den sexuellen Missbrauch von Kindern darstellen. Vorläufige Informationen deuten darauf hin, dass Grok das potenzielle Risiko für die Rechte von Minderjährigen mit seiner Bildbearbeitungsfunktion ausgeschöpft hat.
Die aktuelle Untersuchung wird von der Europäischen Kommission an den Fall angehängt, der bereits am 18. Dezember 2023 unter den Augen des Mikroblogs X eröffnet wurde. Dies dürfte die Ermittlungen beschleunigen. Natürlich ist nicht zu erwarten, dass bald ein Ergebnis erzielt wird. Aber es wird sich schon früher auswirken. Die EU-Beamten haben X und Grok angewiesen, das rechtsverletzende Verhalten einzustellen.
Die Plattform muss eine ordnungsgemäße Risikoanalyse der aktuellen Funktionen durchführen und den Betrieb von Grok verschärfen.
Der Ausschuss wird mit mehreren Ländern zusammenarbeiten, um die Untersuchung schneller und effektiver durchzuführen. Darüber hinaus werden Einwohner, die sich durch Grok oder ein einzelnes KI-Tool belästigt fühlen, aufgefordert, eine Beschwerde wegen eines Verstoßes gegen das DSA einzureichen.
Die Kommission sagt, dass sie auf nationaler Ebene Hilfe und Unterstützung für diejenigen anbieten wird, die von KI-generierten Bildern, einschließlich Material über sexuellen Kindesmissbrauch oder ohne Zustimmung aufgenommene Intimbilder, negativ betroffen waren. Zum jetzigen Zeitpunkt könnte dies der erste Fall in der Europäischen Union sein, in dem ein generatives KI-Tool strafrechtlich verfolgt und bestraft wird. Aber wir können sicher sein, dass es nicht das letzte derartige Verfahren sein wird.
