Während sich OpenAI auf den Börsengang vorbereitet, versucht das Unternehmen, Maßnahmen zu ergreifen, die seinen künftigen Betrieb noch sicherer machen sollen. Aus diesem Grund hat das Unternehmen eine speziell für Jugendliche entwickelte ChatGPT-Version angekündigt. Dies ist vor allem aus Sicherheitsgründen notwendig.
Unter dem Stichwort „ChatGPT for Teens“ führt OpenAI die Benutzerumgebung ein, die speziell für Minderjährige entwickelt wurde. Geplant ist, dass der Chatbot in diesem Rahmen absolut zuverlässig funktioniert und sich weiterhin als effektive Hilfe erweist, unter anderem beim Lernen.
In dem neuen Modus haben die Entwickler die bisherigen Sicherheitsfunktionen und Datenschutzmaßnahmen mit einer Reihe völlig neuer Entwicklungen kombiniert. Durch „ChatGPT for Teens“ wird es möglich sein, die generative künstliche Intelligenz von OpenAI in einem sichereren Umfeld als je zuvor zu nutzen.
„Es handelt sich um eine Lösung, deren Ziel es ist, Teenager beim Lernen, beim kritischen Denken, beim tieferen Verständnis von Informationen sowie beim selbstbewussten Umgang mit der künstlichen Intelligenz von zu unterstützen“, betonte OpenAI. ChatGPT kann offiziell ab einem Alter von 13 Jahren ausprobiert werden; ab diesem Alter kann ein Benutzerkonto erstellt werden, und bis zum vollendeten 18. Lebensjahr wird allen die Nutzung von „ChatGPT for Teens“ empfohlen. Zur Vorbeugung von Missbrauch wird bereits seit Langem eine Altersüberprüfung durchgeführt.
Das Unternehmen wird den Teenager-Modus ab der Einführung automatisch für alle Nutzer bis zum Alter von 17 Jahren aktivieren, und auch für neu registrierte Jugendliche wird dies die Standardeinstellung sein.
Dadurch wird es für Jugendliche schwieriger, auf verbotene oder sensible Inhalte zu stoßen. Es gelten strengere Einschränkungen in Bezug auf explizite Gewaltdarstellungen, die Darstellung von Selbstverletzung sowie sexuelle oder romantische Rollenspiele. Außerdem wird der Dienst Warnungen und Sicherheitshinweise anzeigen, wenn ein Teenager mit ChatGPT über ein sensibles Thema sprechen möchte, wie beispielsweise Essstörungen oder andere psychische Probleme. Auch wenn der Jugendliche ein problematisches Bild hochlädt, wird eine Warnung angezeigt.
OpenAI strebt nach eigenen Angaben an, Jugendliche zu einer gesunden und ausgewogenen Nutzung anzuregen. Zu diesem Zweck wird ChatGPT for Teens den Jugendlichen bei der ersten Nutzung auch einen speziell für sie konzipierten Einführungsleitfaden anzeigen. ChatGPT wird auch über einen Lernmodus verfügen. Wenn die App erkennt, dass das Kind gerade versucht, seine Hausaufgaben mithilfe der KI zu erledigen, wird der Chat automatisch in den Lernmodus umgeleitet.
Eine nützliche Funktion von ChatGPT for Teens wird es sein, dass Eltern die Nutzung des Dienstes einschränken können; es lässt sich eine „Ruhezeit“ einstellen, in der das Kind sich ausruhen muss, anstatt mit der KI zu chatten. Außerdem wird es möglich sein, separate Lernzeiten festzulegen; in diesem Zeitraum wird die Nutzung der App auf den Lernmodus beschränkt sein. Es wird auch möglich sein, einzustellen, dass ChatGPT den Eltern eine Benachrichtigung sendet, falls das System während des Nachrichtenaustauschs ein mögliches Sicherheitsrisiko erkennt.
Das Unternehmen hat diese Neuerung vermutlich nicht ganz aus eigenem Antrieb entwickelt. Dahinter steht zweifellos die Tatsache, dass in letzter Zeit zunehmend betont wurde, dass die Funktionsweise des Chatbots unter Kinderschutzgesichtspunkten bedenklich ist. Und das Letzte, was das Unternehmen gebrauchen kann, ist, dass vor dem Börsengang eine Untersuchung gegen es eingeleitet wird, die erhebliche negative Auswirkungen auf seinen Betrieb haben könnte.
