Rechtliche Schritte gegen KI-Werbung auf Facebook und Instagram
Meta hat ein Unternehmen verklagt, das auf seinen Plattformen sogenannte “Nudify”-Apps bewirbt. Diese Anwendungen erzeugen mithilfe künstlicher Intelligenz gefälschte Nacktbilder von Personen ohne deren Zustimmung.
Mit der Klage gegen den Anbieter der CrushAI-Apps will Meta sämtliche Anzeigen dieses Unternehmens unterbinden. Der Schritt folgt auf monatelange Versuche, entsprechende Inhalte zu löschen.
„Diese Klage verdeutlicht, wie ernst wir diesen Missbrauch nehmen und wie konsequent wir unsere Nutzer schützen wollen“, schrieb Meta in einem Blogpost.
Experten decken weiterhin massive Verstöße auf
Alexios Mantzarlis, Betreiber des Blogs Faked Up, berichtete von „mindestens 10.000 Werbeanzeigen“, die solche Apps auf Facebook und Instagram bewarben. Obwohl er Metas juristischen Schritt lobte, äußerte er Zweifel an der Wirksamkeit.
„Selbst während Meta diesen Beitrag veröffentlichte, fand ich ein Dutzend aktiver Anzeigen von CrushAI sowie hunderte weitere von anderen Diensten“, sagte er.
Laut Mantzarlis sei ständige Überwachung durch Medien und Forschende notwendig, um Plattformen zur Rechenschaft zu ziehen und die Verbreitung dieser toxischen Werkzeuge einzuschränken.
Meta betonte: „Wir werden weiterhin alle notwendigen Maßnahmen ergreifen – einschließlich juristischer Schritte – gegen Personen, die unsere Plattformen missbrauchen.“
KI-generierte Nacktbilder bedrohen Kinderschutz und Privatsphäre
Der Anstieg generativer KI hat die Verbreitung von “Nudify”-Apps massiv beschleunigt. Im April forderte die Kinderkommission für England ein umfassendes gesetzliches Verbot solcher Angebote.
Die Herstellung oder der Besitz KI-generierter sexueller Darstellungen von Kindern ist illegal. Laut Matthew Sowemimo von der Kinderschutzorganisation NSPCC nutzen Täter diese Technik gezielt, um rechtswidrige Bilder zu erstellen.
„Die psychischen Folgen für betroffene Kinder sind oft katastrophal“, erklärte er. „Sie fühlen sich ausgeliefert, gedemütigt und ihrer Selbstbestimmung beraubt.“
Sowemimo rief die Regierung dazu auf, solche Anwendungen in Großbritannien vollständig zu verbieten und deren Werbung unverzüglich zu stoppen.
Meta teilte zudem mit, dass es bereits eine neue Maßnahme eingeführt habe: Seit Ende März gebe man Informationen über diese Dienste an andere Technologieunternehmen weiter.
„Wir haben seither über 3.800 eindeutige URLs an beteiligte Unternehmen weitergeleitet“, so Meta. Gleichzeitig räumte der Konzern ein, dass einige Firmen bestehende Werberichtlinien durch neue Domains umgehen.
Eine neue Erkennungstechnologie soll solche Anzeigen künftig erkennen – selbst dann, wenn keine expliziten Inhalte gezeigt werden.
Deepfakes und KI-Missbrauch bleiben eine wachsende Bedrohung
„Nudify“-Apps stehen exemplarisch für die wachsenden Gefahren durch künstliche Intelligenz auf sozialen Plattformen. Ein weiteres großes Problem sind Deepfakes – täuschend echte Videos oder Bilder, oft mit prominenten Gesichtern, die betrügerisch verwendet werden.
Im Juni rügte Metas Aufsichtsgremium eine Entscheidung, ein KI-generiertes Video, das den brasilianischen Fußballstar Ronaldo Nazário imitierte, nicht zu löschen.
Um solchen Missbrauch einzudämmen, setzt Meta Gesichtserkennung ein und verpflichtet politische Werbekunden zur Offenlegung von KI-Nutzung – insbesondere wegen möglicher Auswirkungen auf demokratische Wahlen.
