Das Europäische Parlament hat grünes Licht für das viel diskutierte KI-Gesetz (AIA) gegeben, ein einzigartiges Instrument zur Regulierung und Kontrolle der verschiedenen KI-Systeme. Experten haben sehr hart daran gearbeitet, und die Zielsetzung war, eine Regelung zu schaffen, die die Innovation nicht behindert.
Künstliche Intelligenz ist ein unglaublich empfindlicher Bereich, und es gibt viel Kritik an den Gesetzgebern, weil sie nicht genug tun, um neue Technologien zu regulieren. Tatsächlich hat die EU mehrere Jahre lang daran gearbeitet, neue Regeln zu schaffen, um den Weg für Entwicklungen zu ebnen. Das Ergebnis dieser Arbeit ist nun der AIA, die weltweit erste KI-Gesetzgebung, die seit 2021 in Arbeit ist und nun Gestalt angenommen und das Europäische Parlament passiert hat.
Der AIA wurde mit einer überwältigenden Mehrheit angenommen: 523 Stimmen dafür, nur 46 Abgeordnete stimmten dagegen und 49 enthielten sich der Stimme. Die Gesetzgebung zur künstlichen Intelligenz enthält viele verschiedene Verbote, Vorschriften für den Einsatz bestimmter Systeme und zahlreiche Anforderungen. In Zukunft wird sie flexibel auf neue Situationen ausgeweitet werden können, um sicherzustellen, dass sie nicht veraltet.
Für allgemeine Modelle der künstlichen Intelligenz (GPAI) wird ein Risikoklassifizierungssystem eingeführt, das unterschiedliche Anforderungen an KI-Lösungen mit unterschiedlichen Risiken stellt. Dienste, die als hochriskant eingestuft sind, werden im Rahmen der Verordnung einer regelmäßigen Risikobewertung unterzogen, und es wird darauf geachtet, etwaige Risiken zu mindern. Einige generative KI-Dienste können ebenfalls als hochriskant eingestuft werden.
Im Falle von GPAI wird es auch viele Verpflichtungen für Entwickler und Betreiber geben. So muss beispielsweise die Nutzung des Systems transparent protokolliert werden, der Betrieb muss nachvollziehbar sein und auch die menschliche Aufsicht muss jederzeit gewährleistet sein. Von besonderem Interesse ist, dass die Unternehmen in der Lage sein müssen, den Nutzern die Möglichkeit zu bieten, auf einfache Weise Beschwerden einzureichen, ihnen spezielle Tools für die Verwaltung ihrer Daten zur Verfügung zu stellen und sie über alles ausführlich zu informieren.
Es ist sehr wichtig, dass die EU jedes System, das die Rechte der europäischen Bürger verletzen könnte, strikt untersagt. "Die biometrische Kategorisierung auf der Grundlage sensibler personenbezogener Daten oder die Erstellung von Gesichtserkennungsdatenbanken mit Gesichtsbildern, die nicht speziell aus dem Internet oder aus geschlossenen Fernsehsendern ausgewählt wurden, werden verboten", heißt es im Bericht des Europäischen Parlaments.
Die Nutzung von KI-gestützten Gesichtserkennungsdiensten in Schulen und am Arbeitsplatz wird strengstens verboten. Die Gesetzgebung besagt auch, dass die Erstellung von Profilen von Bürgern nicht erlaubt sein wird. Sei es durch Scoring, Bewertungssysteme oder jede andere relevante Lösung. Auch die vorausschauende Polizeiarbeit wird von der EU verboten, was bedeutet, dass künstliche Intelligenz nicht dazu verwendet werden darf, Menschen mit Vorstrafen gezielt zu verfolgen.
Auch dürfen die Behörden in keiner Situation Gesichtserkennungslösungen in Verbindung mit Kamerasystemen und Systemen zur biometrischen Fernidentifizierung (RBI) für ihre Zwecke einsetzen. Derartige Methoden können nur nach Einholung spezieller Genehmigungen eingesetzt werden, und selbst mit einer Genehmigung kann die Echtzeit-RBI nur unter streng überwachten Bedingungen verwendet werden. Die zeitlich und räumlich begrenzte Überwachung kann beispielsweise zur Suche nach einer vermissten Person oder zur Verhinderung eines Terroranschlags eingesetzt werden.
Die Kontrolle der künstlichen Intelligenz ist im Übrigen eine äußerst schwierige Aufgabe. Nichts ist ein besserer Beweis dafür als die Tatsache, dass im vergangenen Jahr das KI-Gesetz, das kurz vor der Ziellinie stand, gründlich überarbeitet werden musste.
Generative KI ist eines, wenn nicht sogar das heißeste Thema unserer Zeit; lange Zeit enthielt der AIA keine einzige Beschreibung davon. Erst im letzten Jahr, nach dem eigentlichen Durchbruch der neuen Technologie, haben die Behörden reagiert. Damals wurden mehrere Punkte in die neue Gesetzgebung aufgenommen, mit denen solche Dienste für allgemeine KI-Modelle reguliert werden könnten. Deshalb war es wichtig, bei der Ausarbeitung der Rechtsvorschriften für Flexibilität zu sorgen.
Generative KI-Dienste unter der Ägide des AIA müssen bereits bestimmte Transparenzanforderungen erfüllen, und Technologieunternehmen müssen beim Training verschiedener großer Sprachmodelle die EU-Urheberrechtsvorschriften beachten. Für LLM-Systeme mit einer wirklich großen Rechenkapazität wird es obligatorisch sein, systemische Risiken zu bewerten und sie gegebenenfalls abzumildern.
Unternehmen, die GPAI-Systeme betreiben, werden verpflichtet sein, über alle Vorfälle zu berichten. Und in jedem Fall müssen Bild-, Audio- und Videoinhalte, die von generativer KI erzeugt werden, mit digitalen Identifikatoren versehen werden. Dies wurde bereits in vielen Teilen der Welt erörtert, aber einige Technologieunternehmen haben verschiedene Wasserzeichen-Techniken scharf kritisiert. Meta kümmert sich bereits darum, aber Mark Zuckerberg hat gesagt, dass es in seiner derzeitigen Form nicht wirklich effektiv ist und den Entscheidungsträgern nicht passt.
Brando Benifei, der Abgeordnete des Europäischen Parlaments, der die Verhandlungen über die neue KI-Gesetzgebung der EU leitete, zeigte sich zufrieden mit dem Ergebnis der Abstimmung und der neuen Gesetzgebung. "Endlich haben wir die weltweit erste verbindliche KI-Gesetzgebung, die Risiken reduziert, Chancen schafft, Diskriminierung bekämpft und Transparenz schafft." - sagte Benifei. Er fügte hinzu, dass in Kürze eine KI-Agentur eingerichtet wird, die die Marktteilnehmer bei der Umsetzung der neuen Rechtsvorschriften unterstützen wird.
