Fable 5 und Mythos 5 wurden vor einigen Tagen mit großen Hoffnungen eingeführt, doch schon kurz darauf traten Probleme auf, weshalb der Zugriff darauf eingeschränkt werden musste. Derzeit ist die Lage noch unklar, aber sicher ist, dass die Angelegenheit für Anthropic äußerst unangenehm ist und zu keinem ungünstigeren Zeitpunkt hätte passieren können.
Als einer der Spitzenreiter im KI-Wettlauf stellte Anthropic im Frühjahr unter dem Namen Mythos ein Modell vor, das bei der Aufdeckung von Schwachstellen theoretisch eine noch nie dagewesene Effizienz erreichen kann. Dieses Modell wurde jedoch nur einer sehr kleinen Elite zugänglich gemacht, da es sich als gefährlich erwies, da es nicht über die Sicherheitsbeschränkungen und -vorschriften verfügte, die heute in jedem öffentlichen KI-Modell vorhanden sind.
Letzte Woche jedoch hat das Unternehmen Mythos 5 und Fable 5 vorgestellt. Mythos 5 ist laut offizieller Aussage bereits besser als die vorherige Mythos-Vorschau, und bei Fable 5 ist die sichere Nutzung theoretisch auf allen Ebenen garantiert. Angeblich ist Fable 5 völlig ungefährlich, und schon bald tauchten Berichte auf, wonach es überreguliert sei, da es selbst bei ganz gewöhnlichen Fragen die Beantwortung verweigerte.
Viele waren überrascht, dass Anthropic so schnell mit einer weiterentwickelten und gezähmten Version des als extrem gefährlich eingestuften Modells aufwartete, aber es schien, als würde die Einführung reibungslos verlaufen. Doch am vergangenen Freitagnachmittag erließ das US-Handelsministerium wie aus heiterem Himmel eine Exportbeschränkungsverfügung, in der es Anthropic anwies, die neuen Tools mit sofortiger Wirkung für alle ausländischen Einrichtungen zu sperren.
Die zuständige Regierungsbehörde berief sich auf ein Risiko für die nationale Sicherheit, und Anthropic war gezwungen, der Anordnung nachzukommen. Das Unternehmen hat die neuen Modelle vollständig eingestellt, da es nicht über die geeigneten Mittel verfügt, um die von der Regierung geforderten Einschränkungen umzusetzen.
Es ist noch nie zuvor vorgekommen, dass die US-Regierung ein Unternehmen im Zusammenhang mit einem künstlicher Intelligenz auf diese Weise anweist, den Zugang einzuschränken. Anthropic kam der Aufforderung zwar nach, solange der Fall untersucht wird, betonte jedoch, dass man damit nicht einverstanden sei und auch keine näheren Informationen darüber erhalten habe, was vorgefallen sein könnte.
„Uns wurde noch nicht einmal ein nicht allgemein gültiger, potenzieller Jailbreak gemeldet, der schädliche Folgen gehabt hätte. Die potenziellen Jailbreaks, über die wir informiert wurden, sind entweder völlig harmlose Lösungen oder so unbedeutende Entdeckungen, dass sie keinen für Mythos charakteristischen Vorteil bieten“, erklärte Anthropic in Reaktion auf die Aufforderung. Den USA zufolge hatte eine Gruppe mit Verbindungen zu China Zugriff auf das Gerät, doch es wurden keine Hinweise darauf gefunden.
Nach dem unerwarteten Vorgehen des Handelsministeriums äußerten zahlreiche politische Führungskräfte ihre Besorgnis über diese „neuartige“ Vorgehensweise. Vor allem die Äußerung, dass die Vereinigten Staaten versucht hätten, allen ausländischen Personen den Zugang zu den neuen Modellen zu verwehren, sorgte unter Politikern für große Aufregung. Dies konnten sie nur so interpretieren, dass die politische Macht dazu genutzt werde, sich ungerechtfertigte Vorteile zu verschaffen.
Einigen Vermutungen zufolge steckt tatsächlich die Rache der Regierung dahinter
Zuvor hatte die US-Regierung Ärger mit Anthropic, da das Unternehmen nicht bereit war, seine verschiedenen Sprachmodelle und KI-Tools dem Verteidigungsministerium zur Verfügung zu stellen. Die USA setzten Claude zudem unrechtmäßig für Überwachungs- und Waffenentwicklungszwecke ein, und als dies bekannt wurde, protestierte Anthropic lautstark. Daraufhin beschloss die Regierung, die Produkte des Unternehmens auf eine Sperrliste zu setzen.
Als Anthropic kürzlich ankündigte, das Vorabmodell von Mythos auch der Europäischen Union zur Verfügung zu stellen, um die Cybersicherheit zu verbessern, äußerte die US-Regierung bereits damals ihren Unmut.
Anthropic hat sich mit der Vorstellung dieser Modelle als sehr mutig erwiesen, aber angesichts des harten Wettbewerbs auf dem Markt hatte das Unternehmen wohl das Gefühl, jede Gelegenheit nutzen zu müssen. Zudem bereitet sich das Unternehmen hinter den Kulissen bereits auf den Börsengang vor, weshalb es nicht verwunderlich ist, dass es vor der Branche und den Mitbewerbern groß auftrumpfen wollte. Es könnte jedoch gut sein, dass sich die Sache mit den Modellen Fable und Mythos als Bumerang erweist.
