Kürzlich veröffentlichte das Wall Street Journal einen Bericht über die Entwicklung von OpenAI, die die Beschränkungen von ChatGPT im Bereich der Chats mit sexuellen Inhalten überwinden soll. Die Entwicklung sieht im Moment nicht gut aus.
Im Oktober sagte der Chef und Mitbegründer von OpenAI, Sam Altman, zum ersten Mal offiziell, dass ChatGPT einen Modus für "Dirty Talk" mit KI haben wird. Er sagte, dass das OpenAI-Entwicklungsteam es erfolgreich geschafft hat, dies in eine Form zu bringen, die kein Risiko birgt. Zumindest führe es nicht zu "ernsthaften psychischen Problemen".
Nach früheren Informationen sollte die neue Funktion im ersten Quartal dieses Jahres veröffentlicht werden, aber OpenAI beschloss, die Einführung der fragwürdigen Funktion zu verschieben.
Das Unternehmen gab an, dass der spezielle Modus wegen höherer Entwicklungsprioritäten auf Eis gelegt wurde, aber interne Informationen deuten darauf hin, dass dies nicht der Fall ist. Tatsächlich könnte der Grund für die Entscheidung, das Feature auf Eis zu legen, darin liegen, dass es intern erhebliche Befürchtungen gab, erotische Chats zuzulassen. OpenAI könnte sich wirklich in die Nesseln setzen, wenn etwas schief geht. Außerdem ist der Ruf des Unternehmens in letzter Zeit auch ohne die Beziehung zur US-Regierung schon schlecht genug.
Laut einer anonymen Quelle, die mit dem Wall Street Journal sprach, gibt es eine Reihe von Problemen mit dem speziellen Modus. Zum einen handelt es sich um einen sehr anspruchsvollen technologischen Bereich, in dem man clever sein muss, um Gespräche mit ChatGPT zu leiten. Zum anderen gibt es ein Sicherheitsrisiko, das nur sehr schwer zu beseitigen ist.
Gesunde erotische Unterhaltungen zu führen ist eine erstaunliche Herausforderung. Das klingt zunächst nicht nach einer schwierigen Aufgabe, aber generative KI dringt in einen Bereich vor, in dem sie wirklich menschliche Entscheidungen treffen sollte. Sie sollte wissen, welche erotische Konversation noch ethisch vertretbar ist und wann man die rote Linie überschreiten will. Sie sollte zum Beispiel alle Anzeichen von Pädophilie erkennen und diese meiden. Außerdem ist es schwierig zu garantieren, dass Minderjährige von dieser Art des Sprechens ausgeschlossen sind.
Das Altersverifikationssystem von OpenAI blutet bei Tests noch zu sehr. Im Prinzip identifiziert es Kinder in 12 von 100 Fällen als Erwachsene, was ihnen Zugang zum erotischen Chat-Modus verschaffen würde.
Jede Schwachstelle, die im Schutzschild des Erotikmodus von ChatGPT verbleibt, wird eine Zielscheibe auf OpenAIs Stirn sein, und wir können sicher sein, dass viele Leute die neue Funktion sofort nach ihrer Veröffentlichung eifrig nutzen werden, um Sicherheitslücken zu finden.
OpenAI hat eine Beratungsfirma beauftragt, und es wurden Risikoanalysen durchgeführt. Eine der beteiligten Personen verriet anonym, dass der Bericht besagt, dass ChatGPTs erwachsene Art, Dinge zu tun, einen "sexy Selbstmordhelfer" kreiert. Dies war eine Anspielung auf die Tatsache, dass ChatGPT von Natur aus das Risiko birgt, Menschen zum Selbstmord zu ermutigen, und die Kombination mit erotischem Chat erhöht das Risiko erheblich.
Wir sind gespannt, wann OpenAI diesen speziellen Chatmodus zur Verfügung stellen wird. Für diejenigen, die eine solche Option in generativen KI-Tools wünschen, könnte Grok eine gute Wahl sein. xAI hat in dieser Frage einen viel entspannteren Ansatz als OpenAI gewählt. Musk sagte vor ein paar Tagen, dass sein Bild- und Videogenerierungstool das zulassen würde, was Menschen in einem Erwachsenenfilm sehen könnten.
