KI-Fehler führt zu psychischem Leid
Mehrere Nutzer von Instagram berichten, dass sie zu Unrecht wegen angeblicher Verstöße gegen Richtlinien zum Schutz von Kindern gesperrt wurden. Die Sperrungen führten zu großem Stress und seelischer Belastung. Erst nachdem Journalisten sich einschalteten, erhielten einige Betroffene ihre Konten zurück.
Ein Nutzer schilderte, wie er durch die Vorwürfe viele Nächte nicht schlafen konnte und sich völlig isoliert fühlte. Der Mutterkonzern von Instagram äußerte sich nicht zu den Vorfällen.
Über 100 weitere Personen meldeten sich bei einer Redaktion mit ähnlichen Erfahrungen. Manche verloren Einnahmen, andere bemängelten den Verlust jahrelanger Fotos und Erinnerungen. Viele betonten die Folgen für ihre psychische Gesundheit.
Ein Online-Aufruf, der dem KI-System des Unternehmens Fehler vorwirft, wurde von mehr als 27.000 Personen unterzeichnet. Auch in Reddit-Foren berichten tausende Nutzer über ungerechtfertigte Sperrungen. Der Konzern räumte lediglich Probleme bei Facebook-Gruppen ein, bestreitet jedoch breitere Schwierigkeiten.
Drei exemplarische Fälle zeigen das Ausmaß
David aus Aberdeen wurde am 4. Juni gesperrt, weil er angeblich gegen Richtlinien zur Darstellung von Kindesmissbrauch verstoßen habe. Noch am selben Tag legte er Widerspruch ein, doch daraufhin deaktivierte das System auch seine Facebook- und Messenger-Konten.
In einem Reddit-Forum entdeckte David zahlreiche weitere Betroffene mit ähnlichen Vorwürfen. Er beklagte den Verlust von über zehn Jahren an privaten Nachrichten, Fotos und Beiträgen. Die Anschuldigung nannte er „verleumderisch und beschämend“. Auf seine Nachfragen erhielt er nur automatisierte Antworten. Bis heute weiß er nicht, warum es zur Sperrung kam. Nachdem Journalisten am 3. Juli seinen Fall weiterreichten, wurde sein Konto wenige Stunden später reaktiviert. Das Unternehmen entschuldigte sich schriftlich.
Faisal, ein Kreativstudent aus London, verlor am 6. Juni den Zugang zu Instagram. Über seine Seite hatte er erste Einnahmen generiert. Nach dem Widerspruch kam die dauerhafte Sperre. Er sagte, die Anschuldigung habe ihn psychisch stark getroffen und ihn in die Isolation getrieben. Auch sein Fall wurde weitergeleitet, woraufhin das Konto am 3. Juli wiederhergestellt wurde. Die Entschuldigung war wortgleich mit der bei David. Dennoch bleibt die Sorge, dass die Sperrung bei künftigen Prüfungen auffallen könnte.
Auch Salim berichtete von falschen Vorwürfen wegen Kindesmissbrauchs. Seine Geschäftskonten wurden gesperrt, sein Widerspruch ignoriert. Er kritisierte, dass die Künstliche Intelligenz normale Nutzer wie Verbrecher behandelt. Etwa eine Woche später wurden seine Konten wieder freigegeben.
Fehlende Transparenz in der Moderation
Der Konzern nahm keine Stellung zu den Einzelfällen. Eine südkoreanische Politikerin erklärte jedoch, das Unternehmen habe in ihrem Land zugegeben, dass Sperrungen in Einzelfällen fehlerhaft verlaufen könnten.
Dr. Carolina Are, Forscherin an der Northumbria University, erklärte, dass die Ursachen unklar seien, weil der Konzern keine Einblicke in seine Abläufe gewähre. Sie vermutet Änderungen an den Richtlinien und ein weiterhin mangelhafter Berufungsprozess als Gründe.
Laut einer älteren Erklärung sperre der Konzern Konten bei Verstößen gegen die Richtlinien, eine Berufung sei möglich. Große Plattformen stehen unter Druck, sichere Umgebungen zu gewährleisten.
Das Unternehmen erklärte, es nutze sowohl technische Systeme als auch menschliche Überprüfung. Es gebe keinen Anstieg fehlerhafter Sperren. Die Richtlinien zur Darstellung von Kindesmissbrauch erfassen auch nicht-reale Inhalte wie KI-Bilder oder fiktive Figuren mit menschlichem Aussehen.
Das Unternehmen identifiziere verdächtiges Verhalten etwa durch Meldungen von Jugendlichen oder bestimmte Suchmuster. Alle gemeldeten Inhalte würden an das US-amerikanische National Center for Missing and Exploited Children (NCMEC) weitergeleitet. Diese Stelle stellt die Informationen weltweit den Strafverfolgungsbehörden zur Verfügung.
