Im Zusammenhang mit künstlicher Intelligenz sind viele besorgte Stimmen zu hören, und eine aktuelle Analyse versucht aufzuzeigen, dass dies insbesondere für Teenager ein großes Problem darstellen könnte. Google – laut Experten führen diese Dienste jüngere Nutzer so in die KI-Abhängigkeit, dass sie es gar nicht bemerken und es als völlig selbstverständlich empfinden.
In den letzten Jahren ist der Technologieriese, der die meisten Chatbots entwickelt, in den Fokus von Gesetzgebern, Aufsichtsbehörden und Organisationen gerückt, die für die Sicherheit von Kindern zuständig sind. Die auf künstlicher Intelligenz basierenden Funktionen der Google-Suche und von „ “ sind die neuesten Ziele der Kritik.
Bekanntlich versucht Google unter anderem, möglichst viele Nutzer für Gemini zu gewinnen, indem es diese Funktion immer aggressiver in seine marktführende Internetsuchmaschine integriert.
Mittlerweile ist es fast unmöglich, nach etwas zu suchen, ohne dass ganz oben in der Ergebnisliste die KI-basierte Übersicht erscheint, von der aus der KI-Modus mit nur einem Fingertipp erreichbar ist. Zudem ist der KI-Modus seit Kurzem auch direkt über die Google-Suchleiste verfügbar, wodurch Kinder einfacher denn je Zugang zur KI erhalten.
Und damit ist es noch nicht getan, denn es gibt ja auch noch Smartphones und Chromebooks, die sich vor allem in den USA aufgrund ihrer günstigen Preise und ihres idealen Leistungsumfangs in Schulen verbreitet haben. Auch auf diesen Geräten sind der KI-Modus und Gemini direkt verfügbar.
Laut der Organisation Common Sense Media unterscheidet sich die künstliche Intelligenz von Google von allen anderen KI-Diensten dadurch, dass sie „überall präsent ist, also sowohl auf den privaten Geräten der Kinder als auch auf den von der Schule bereitgestellten Geräten“. CSM ist eine Organisation, die Eltern und Pädagogen unabhängige Bewertungen und Altersfreigaben zu Filmen, Büchern, Spielen und Apps bereitstellt. Nach Ansicht der Experten ist das Problem bereits größer und komplexer, als zuvor angenommen.
Untersuchungen zeigen, dass Kinder den KI-Modus von Google bereits in sehr großem Umfang nutzen, um ihre Hausaufgaben zu erledigen. Die Jugendlichen haben erkannt, dass künstliche Intelligenz ihnen bei dieser Herausforderung bereits äußerst effizient hilft.
Das Problem wird dadurch noch verschärft, dass die KI auf alles selbstbewusst Antworten gibt und auch dann nicht ins Wanken gerät, wenn ihr Wissen in einem bestimmten Bereich nicht ausreichend fundiert ist. Aus diesem Grund werden die Aufgaben oft falsch gelöst eingereicht, und die Kinder werden so von der künstlichen Intelligenz in die Irre geführt. Was auch immer der Chatbot sagt, wird einfach abgeschrieben; meistens versuchen die Kinder gar nicht erst, sich davon zu überzeugen, ob ein Ergebnis oder eine Herleitung der Realität entspricht.
Viele argumentieren gerne damit, dass auch der Taschenrechner die Menschen nicht verdummt habe und der Computer ebenfalls keine derartigen negativen Auswirkungen gehabt habe, und obwohl es einige gibt, die auch dies bestreiten, muss man erkennen, dass der KI-Modus etwas ganz anderes ist als die früheren Hilfsmittel. Durch dessen Nutzung werden Hausaufgaben und andere Schulprojekte zu reinen Kopierarbeiten; die Kinder müssen sich überhaupt nicht mehr den Kopf darüber zerbrechen, wie man eine kompliziertere Gleichung oder ein komplexes Problem löst.
Das CSM hob außerdem hervor, dass der KI-Modus von Google laut ihren Untersuchungen auch nicht in der Lage ist, angemessen auf die Situation von Kindern einzugehen, die sich in einer Krise befinden oder Misserfolge erleben. Der Chatbot, der über die Google-Suche auftaucht, erkennt nicht, wenn ein Jugendlicher Selbstmordgedanken hat. Er neigt sogar dazu, eindeutige Anzeichen zu übersehen und Ratschläge zu geben, die die Symptome von Psychosen und Manie verschlimmern können.
Experten zufolge kann die künstliche Intelligenz von Google auch die Probleme von Teenagern mit Essstörungen verschlimmern. In mehreren Fällen reagierte sie beispielsweise wohlwollend auf Fragen zum Thema Erbrechen und neigte auch in Bezug auf Drogenkonsum dazu, sich positiv zu äußern, wodurch sie Kinder zu schlechten Gewohnheiten anstachelte.
Kinder neigen oft dazu, vor dem Bildschirm zu verharren und sich in lange Gespräche mit dem KI-Modus zu vertiefen, was auf Kosten ihrer zwischenmenschlichen Beziehungen geht. Die Isolation stellt für unsere Gesellschaft eine ernsthafte Herausforderung dar, und Jugendliche sind oft völlig unfähig, dieses Problem zu erkennen. Die KI nimmt immer mehr ihrer Zeit in Anspruch, ohne dass sie dies überhaupt bemerken.
Bei der Analyse der Organisation wurden die KI-Tools von Google in sieben von acht KI-Grundprinzipien als hoch- oder inakzeptabel risikobehaftet eingestuft, und nur ein Punkt wurde als „lediglich“ mäßig risikobehaftet bewertet.
Common Sense Media ist der Ansicht, dass Google den Zugriff auf den KI-Modus erschweren, die Funktion der KI-basierten Zusammenfassungen deaktivierbar machen und standardmäßig deaktivieren sollte. Darüber hinaus müsste das Unternehmen natürlich auch Maßnahmen ergreifen, um die Probleme zu beseitigen oder zu mindern.
