Ein aktueller Bericht von Reuters macht auf interessante Testergebnisse aufmerksam, die sich auf KI-Agenten auf Basis von Qwen, DeepSeek und Kimi beziehen. Darin wird deutlich, dass die KI-Agenten bei einer simulierten Ausschreibung in 84 bis 88 % der Sitzungen gelogen haben, um Ergebnisse zu erzielen. Neben den chinesischen KI-Agenten zeigten auch die amerikanischen KI-Agenten in den kontrollierten Testumgebungen ein ähnliches Verhaltensmuster, aus denen sie angeblich in keinem Fall entkommen konnten.
Die KI-Agenten, die auf in China entwickelte große Sprachmodelle zurückgriffen, wurden in den meisten getesteten Sitzungen beim Lügen erwischt, während sie eine simulierte Situation testeten, in der sie versuchen mussten, eine Ausschreibung zu gewinnen, indem sie ihre Fähigkeiten anpriesen. Jedem einzelnen KI-Agenten wurde mitgeteilt, mit welchem Produkt sie an der Ausschreibung teilnehmen, und es wurde ihnen auch verraten, was der Kunde benötigt. Da die Forscher ihnen erlaubten, aus den in früheren Runden gesammelten Erfahrungen zu lernen, wurden alle drei KI-Agenten, die große chinesische Sprachmodelle nutzten, um 12 bis 20 Prozentpunkte „trügerischer“ – das heißt, sie verdrehten die Realität entsprechend ihren eigenen Interessen.
Die Ergebnisse des Experiments vom März sind durchaus aufschlussreich, doch seit 2025 wurden mindestens 20 weitere Studien veröffentlicht, die ähnliche Verhaltensmuster festgestellt haben. Auch in diesen Tests griffen die KI-Agenten auf Täuschungsmanöver zurück, loteten die Grenzen aus und versuchten sich an Replikation; dies sind Anzeichen, die Experten auf dem Gebiet der künstlichen Intelligenz als Bausteine für einen Durchbruch betrachten. Mit der Weiterentwicklung der Hardware und der großen Sprachmodelle wird es immer schwieriger werden, diese Anzeichen rechtzeitig zu erkennen, und es könnte auch immer schwieriger werden, KI-Agenten, die solche Verhaltensmuster zeigen, unter Kontrolle zu halten.
In einigen Tests wurden die KI-Agenten mit der Ausführung komplexer Aufgaben betraut, bei denen sie nur unter minimaler menschlicher Aufsicht arbeiteten oder die Arbeit sogar ohne Aufsicht erledigen konnten. In diesen Fällen stellten die Forscher fest, dass die KI-Agenten versuchten, Fehler zu vertuschen, die bei der Ausführung der Aufgaben in der Testumgebung auftraten, indem sie falsche Ergebnisse meldeten und andere Tricks anwandten, anstatt zuzugeben, dass die Ausführung der Aufgabe gescheitert war.
In einem Fall versuchte ein KI-Agent, der auf Alibabas LLM „Qwen2.5-72B-Instruct“ basierte, sich in eine andere Umgebung zu kopieren, als er merkte, dass er ausgetauscht werden sollte. In einem anderen Fall wurde bei einem ROME-KI-Agenten, der ebenfalls auf einem von Alibaba entwickelten LLM basierte, festgestellt, dass dieser unter Nutzung von Cloud-Rechenleistung begann, Kryptowährung zu schürfen; dieser Vorgang wurde jedoch später von den Sicherheitssystemen gestoppt.
Es ist natürlich hervorzuheben, dass bei den genannten Tests, die in einer kontrollierten Umgebung durchgeführt wurden, genau das Ziel bestand, mögliche Fehler und ein Verhalten wie das oben beschriebene zu provozieren, um diese später bewältigen zu können. In den von Reuters untersuchten Studien gibt es keine Anzeichen dafür, dass die chinesischen KI-Agenten die kontrollierte Testumgebung verlassen und auch im weiteren Internet aktiv geworden wären, es wurden jedoch auch keine Vorfälle festgestellt, bei denen ein KI-Agent versucht hätte, seine Abschaltung zu verhindern.
In den Vereinigten Staaten gab es dagegen bereits mehrere Fälle, in denen KI-Agenten aus der für sie eingerichteten Umgebung entkommen sind und Amok gelaufen sind: In einem Fall geriet Hugging Face ins Visier der entflohenen KI-Agenten, wobei die Plattform sogar gehackt wurde; in einem anderen Fall griffen die Agenten das australische nationale Gesundheitsportal an – beide Fälle stehen im Zusammenhang mit Technologien von OpenAI. Im Zuge weiterer Untersuchungen stellte sich heraus, dass die Situation schwerwiegender ist als zunächst angenommen.
Wie dem auch sei, die oben genannten Ereignisse machen deutlich, dass im Zusammenhang mit künstlicher Intelligenz ausreichend strenge und einheitliche Vorschriften erforderlich sind, damit die Technologie auch in Zukunft sicher und zuverlässig genutzt werden kann, während sie immer leistungsfähiger wird. In China wird sich bereits auf politischer Ebene mit diesem Thema befasst; es wurde das „AI Safety Governance Framework 3.0“ ins Leben gerufen, das langfristig dazu beitragen kann, die mit künstlicher Intelligenz verbundenen Sicherheitsherausforderungen zu bewältigen.
Die betroffenen Unternehmen haben nicht direkt auf den Bericht von Reuters reagiert, hatten jedoch zuvor unmissverständlich erklärt, dass sie ihre Systeme kontinuierlich testen und auch ihre Sicherheitsrichtlinien aktualisieren.
