Es dürfte niemanden überraschen, dass sensible Inhalte manchmal durch die Filter von Social-Media-Plattformen gelangen. Doch bei Meta hat ein nicht näher bezeichneter Fehler dazu geführt, dass Tausende von Videos auftauchten, die aus den dunkelsten Ecken des Internets stammen könnten.
Videos, die grobe Pornografie und lebensfeindliche Handlungen zeigen, wurden auf Instagram scheinbar wahllos an Millionen von Menschen gepostet.
Es ist schwer abzuschätzen, wie viele Menschen davon betroffen waren, wie viele Menschen verstörenden und schockierenden Videos ausgesetzt waren und wie viele der Opfer möglicherweise jung waren. International war die Nutzerbasis von dem unerwarteten Ereignis betroffen.
Instagram verfügt über ein System, mit dem schädliche Videos, die nicht zum Anschauen empfohlen werden, hinter einer trüben "Wand" versteckt werden. Sie können also nur absichtlich angesehen werden. Bei dieser jüngsten "Aktion" ist es den unbekannten Tätern jedoch gelungen, schockierendes Filmmaterial so zu gestalten, dass viele von ihnen nicht einmal diesen Filter haben. So können sogar Kinder unwissentlich auf Videos gestoßen sein, in denen Menschen auf brutale Weise getötet werden.
Diese Plattform und Meta im Allgemeinen verwenden einen sehr effizienten Algorithmus, so dass das System in fast allen Fällen den Nutzern Videos zeigt, die sie tatsächlich interessieren könnten. Es liegt im Interesse des Unternehmens, das Publikum so lange wie möglich vor dem Bildschirm zu halten. Der aktuelle Fehler war jedoch so gravierend, dass schädliche Inhalte irgendwie die übliche Routine der Plattform umgingen, um ein großes Publikum zu erreichen. Niedliche Haustiervideos konnten Aufnahmen enthalten, die schockierende Dinge zeigten.
Im Prinzip hat Meta nun erfolgreich eine Sicherheitslücke geschlossen, die von den Tätern ausgenutzt worden sein könnte. Aus Nutzerberichten geht jedoch hervor, dass dies nicht der erste Fall eines solchen Vorgehens war. Es ist wahrscheinlich, dass Meta bereits mehrfach große Mengen an illegalen Videos über Reels übertragen hat, aber nur einmal war die Anzahl der betroffenen Nutzer so groß.
Das Unternehmen hat sich für den Vorfall entschuldigt. "Wir haben einen Fehler behoben, der dazu führte, dass einige Nutzer Inhalte im Instagram Reels-Stream sehen konnten, die nicht hätten angeboten werden dürfen. Wir entschuldigen uns für den Fehler", sagte ein Meta-Sprecher auf Anfrage von CNBC.
Diese Nachricht könnte die Aufmerksamkeit der Regulierungsbehörden wieder auf die sozialen Medien lenken, deren Filterung in letzter Zeit in den meisten Fällen nur noch schlimmer geworden ist.
Ein Fall wie dieser kann nicht zu einem schlechten Zeitpunkt kommen, aber für Meta ist dies wahrscheinlich der denkbar schlechteste Moment. Wie Sie wissen, hat Mark Zuckerberg vor kurzem über die Umstellung auf ein neues Moderationsmodell gesprochen, das eindeutig lockerer zu sein scheint, und das Unternehmen ist dafür stark in die Kritik geraten. Es gibt also bereits ein klares Beispiel dafür, dass dies nicht die richtige Richtung ist. Es hat nicht lange gedauert, bis das Unternehmen ein ernstes Problem mit der laxen Überwachung und Moderation von Inhalten hatte.
