Das Entwicklerteam von Microsoft hat erneut darauf hingewiesen, dass die Nutzung von KI-Agenten mit Risiken verbunden ist, man sich nicht uneingeschränkt auf sie verlassen kann und daher bestimmte Vorsichtsmaßnahmen getroffen werden müssen. Dennoch entwickelt und verbreitet das Unternehmen aktiv immer neue Funktionen, in deren Rahmen Copilot bereits verschiedene Vorgänge auf dem Computer des jeweiligen Nutzers ausführen kann – natürlich nur, wenn es die entsprechende Genehmigung erhält. Der jüngste offizielle Beitrag befasst sich genau damit, dass die Frontier-Modelle sowie die darauf laufenden KI-Agenten an sich nicht vertrauenswürdig sind.
Was ist also zu tun, wenn wir uns für den Einsatz von KI-Agenten entscheiden und ihnen darüber hinaus spezielle Befugnisse einräumen, die ein Risiko darstellen? Laut Microsoft müssen hierfür Guardian Agents als „Sicherheitswächter“ eingesetzt werden, vor allem auf Unternehmensebene. Diese haben Einblick in die Arbeit der einzelnen KI-Agenten und können jeden Schritt jedes Agenten überprüfen, bevor dieser bestimmte Vorgänge ausführt. Die Überwachung der laufenden KI-Agenten und die Gewährleistung ihres sicheren Betriebs erfordern eine kontinuierliche Überwachung; außerdem muss in zufriedenstellender Weise für die entsprechenden Berechtigungen, die Sicherheit der Endgeräte, des Netzwerks, der Cloud sowie der Ausführungsumgebung muss ebenfalls zuverlässig gewährleistet werden.
Zu diesem Zweck wurde „Project Perception“ entwickelt, das bereits im Juli dieses Jahres angekündigt wurde und dessen Aufgabe es ist, die einzelnen KI-Agenten unter Kontrolle zu halten – und zwar unter Einsatz von Berechtigungen und Containern, unter Anwendung eines klaren Regelwerks und unter Zuordnung einer Identität. Während des Betriebs der Agenten ist zudem eine dynamische Risikoanalyse erforderlich; die Überwachung kann nicht von einem einzelnen, sondern von einem ganzen Team von Guardian-Agenten übernommen werden, die in Echtzeit für einen sicheren und erwartungsgemäßen Betrieb sorgen können.
Im Rahmen von „Project Perception“ lassen sich die KI-Agenten in Echtzeit steuern; außerdem besteht die Möglichkeit, nachträglich zu überprüfen, welche Aktionen die einzelnen Agenten durchgeführt haben. Auf diese Weise lässt sich aufdecken, aufgrund welcher Kriterien die eine oder andere Aktion als risikobehaftet eingestuft wurde, und das Sicherheitsregelsystem entsprechend anzupassen. Durch die Echtzeitüberwachung kann schnell auf Sicherheitsvorfälle reagiert werden, und die Fachleute können die entsprechenden Schlussfolgerungen ziehen, wodurch der Betrieb sicherer wird. Natürlich ist es auch notwendig, die Funktionsweise der einzelnen Modelle transparenter zu gestalten, sodass nicht nur die Eingabe- und Ausgabetoken überwacht werden können, sondern auch das „Denken“ bzw. die Kette der Denktoken.
Auf dieser Grundlage lässt sich tatsächlich nachvollziehen, ob die Absicht des Modells mit dem Ziel des Agenten im Einklang stand oder nicht. Transparenz ersetzt natürlich nicht die Beschränkungen, sondern hat vielmehr die Aufgabe, die Grenzen der Funktionsweise effizienter und intelligenter zu gestalten, wodurch die Aufgabenerfüllung sicherer wird. Diese Vorgehensweise ist auch im Hinblick auf Nachverfolgbarkeit und Rechenschaftspflicht wichtig – sie muss der nächste Schritt beim Umgang mit den Risiken sein, die mit autonom handelnden internen KI-Agenten verbunden sind, sowie bei der Verbesserung der Sicherheit ihres Betriebs.
Darüber hinaus setzt das Unternehmen die Entwicklung und Implementierung von KI-Funktionen fort, auch wenn erst kürzlich bekannt gegeben wurde, dass das Kontextmenü von OneDrive ein wenig gestrafft wird, um es übersichtlicher und benutzerfreundlicher zu gestalten, Infolgedessen werden 8 KI-Funktionen aus dem Menü entfernt, doch diese Funktionen verschwinden nicht vollständig, sondern bleiben an anderer Stelle verfügbar. Wir hoffen, dass Microsoft bei den in sein eigenes Betriebssystem integrierten KI-Agenten ebenso umsichtig vorgehen wird wie bei „Project Perception“, denn es geht nicht um immer neue KI-Funktionen oder vielseitige KI-Agenten, sondern es müssen zunächst die sicheren Betriebsbedingungen geschaffen werden; erst danach könnten die verschiedenen risikobehafteten Funktionen folgen, wenn man sie bereits „an die Leine nehmen“ kann. Entwicklung ist natürlich notwendig, jedoch innerhalb vernünftiger und sicherer Rahmenbedingungen.
