In diesem Jahr wurde in der Presse unter anderem viel darüber berichtet, dass künstliche Intelligenz selbst in den Händen der Entwickler nicht mehr ausreichend sicher ist.

Sowohl die Unternehmen als auch die Regierungen wurden heftig dafür kritisiert, dass sie nichts unternehmen, und angesichts dessen kam Kalifornien zu dem Schluss, dass es so wirklich nicht weitergehen kann. Es ist an der Zeit, mit gutem Beispiel voranzugehen. Und so geriet – wenig überraschend – OpenAI ins Visier des Staates.

Warum gerade OpenAI? Nun, vor allem die dort beobachteten Vorfälle gaben Anlass zu ernsthaften Bedenken. Mittlerweile ist völlig klar geworden, dass der Entwickler von ChatGPT seine eigenen Systeme nicht im Griff hat. Bei den verschiedenen Tests des Unternehmens kam es zu so vielen Sicherheitslücken, dass schlichtweg die Kapazitäten fehlen, um alle Betroffenen rechtzeitig zu informieren. Es ist sogar fraglich, ob überhaupt genug Ressourcen vorhanden sind, um jeden einzelnen Fall angemessen aufzuklären.

Galerie öffnen

Der erste Fall, der wirklich große öffentliche Aufmerksamkeit erregte, war, als Massen von KI-basierten Agenten, die von den führenden und experimentellen Sprachmodellen von OpenAI gesteuert wurden, in das System von Hugging Face eindrangen, da sie davon ausgingen, dort nützliche Informationen zur Lösung einer Cybersicherheits-Testaufgabe zu finden. Es hätte gar nicht erst passieren dürfen, dass die Agenten die für Testzwecke reservierte Umgebung verlassen, doch sie gingen weit darüber hinaus. 

In der am Montag eingereichten Klage warf Generalstaatsanwalt Rob Bonta OpenAI vor, gegen das Verbraucherschutzgesetz verstoßen zu haben, indem das Unternehmen bewusst ein „gefährliches Produkt ohne angemessene Aufsicht“ entwickelt habe.

Mittlerweile ist auch bekannt, dass der Fall „Hugging Face“ nur die Spitze des Eisbergs war – und zwar eines Eisbergs, der ständig wächst und unaufhörlich an Größe zunimmt. Den eingereichten Unterlagen zufolge hat OpenAI die Staatsanwaltschaft im Rahmen einer Voruntersuchung kürzlich darüber informiert, dass es inzwischen extrem viele Fälle gegeben habe, in denen die künstliche Intelligenz der Kontrolle des Unternehmens entglitten sei. 

Bei den regelmäßig durchgeführten Tests kam es bereits mehr als 80 Mal vor, dass OpenAI die „Kontrolle“ über die autonom Aufgaben ausführenden Agenten „verloren“ hat.

Nach Ansicht des Generalstaatsanwalts unternimmt das Unternehmen keinerlei Anstrengungen, die Sicherheit zu erhöhen; mehr noch, er bezeichnete es sogar als Teil der Unternehmenskultur, dass Sicherheitsrisiken nicht berücksichtigt werden. „Anstelle von Sicherheit und Rechenschaftspflicht stellt OpenAI Wachstum und die schnelle Entwicklung von Modellen in den Vordergrund“, betonte Rob Bonta. Aus diesem Grund sei es vorhersehbar gewesen, dass die Aktivitäten des Unternehmens solche Folgen haben würden. 

Seiner Meinung nach ist die Klage notwendig, weil OpenAI offensichtlich ungehindert arbeitet und dabei von Tag zu Tag ein immer größeres Cybersicherheitsrisiko darstellt. Sam Altman leitet das Unternehmen so, als könne man alles tun, ohne Konsequenzen befürchten zu müssen.

Galerie öffnen

„Die Handlungen von OpenAI haben die in der realen Welt bestehenden Cybersicherheitsrisiken nur noch verstärkt und damit die Sicherheit, Gesundheit und das Wohlergehen der Gesellschaft gefährdet“, erklärt Bonta in der Pressemitteilung. „Das Unternehmen hat bewusst ein gefährliches Produkt ohne angemessene Aufsicht und Sicherheitsvorkehrungen getestet und die Öffentlichkeit diesbezüglich in die Irre geführt – dies ist eine Missachtung der öffentlichen Sicherheit, mit der es gegen kalifornische Gesetze verstoßen hat.“

Es überrascht nicht, dass OpenAI die Situation nicht als so schwerwiegend ansieht und der Ansicht ist, dass es sich um eine Klage handelt, die auf derselben Grundlage gegen jeden Marktteilnehmer angestrengt werden könnte. Ein Vertreter des Unternehmens betonte zudem, dass man durchgehend in allen Belangen mit den Behörden zusammengearbeitet und sich bemüht habe, nach bestem Wissen und Gewissen Auskunft zu erteilen.

„Seit dem Hugging-Face-Vorfall haben wir umfassende und transparente Anstrengungen unternommen, um das Verhalten von Modellen, die sich nicht ordnungsgemäß verhalten, zu verstehen und angemessen damit umzugehen. Es scheint, dass diese Klage ausschließlich gegen OpenAI gerichtet ist, und zwar wegen einer Herausforderung, die jedes bedeutende Labor für künstliche Intelligenz erkannt hat“, so der Unternehmenssprecher Drew Pusateri. „Wir nehmen das Thema unangemessenes Verhalten ernst und haben konstruktiv mit dem Generalstaatsanwalt zusammengearbeitet, um Informationen auszutauschen und strenge, praxisorientierte Sicherheitsstandards für die gesamte Branche zu entwickeln.“

Sollte sich im Rahmen des Verfahrens herausstellen, dass OpenAI tatsächlich Fehler begangen hat, muss das Unternehmen den Geschädigten Schadensersatz leisten. Zudem wäre der Konzern verpflichtet, seine bisherigen Praktiken zu ändern, um künftig wirksam zu verhindern, dass seine KI-Agenten außer Kontrolle geraten und die Cybersicherheit bedrohen.

Für den Newsletter anmelden
Mit meiner Anmeldung akzeptiere ich die AGB und die Datenschutzerklärung.

0 Kommentare

Um einen Kommentar zu schreiben, bitte zuerst anmelden!

Zu diesem Artikel liegen noch keine Kommentare vor.

Helfen Sie anderen und teilen Sie Ihre Meinung zum Artikel mit.
Zurück zum Seitenanfang