KI-‘Nudify’-Apps überschwemmen die App-Stores trotz wachsender Bedenken über nicht konsensuelle Deepfakes

KI-Bildbearbeitungsprogramme: Ein ethischer Schlamassel

Der Schutz vor dem Missbrauch von KI-Technologien zur Erstellung von nicht einvernehmlichen, sexuell eindeutigen Bildern wird zunehmend zu einer Herkulesaufgabe. Ein neuer Bericht zeigt, dass trotz bestimmter Präventivmaßnahmen immer noch zahlreiche “Nudify”-Apps auf den wichtigsten Plattformen zu finden sind. Dies gibt Anlass zur Sorge, dass das Problem viel weiter verbreitet ist, als es scheint.

Eine bemerkenswerte Untersuchung, die von der Projekt "Technische Transparenz" (TTP) beleuchten diesen besorgniserregenden Trend. Es wurde festgestellt, dass sowohl Google als auch Apple eine erschreckende Anzahl dieser Apps anbieten - 55 im Google Play Store und 48 im App Store von Apple. Diese Apps nutzen KI, um Bilder von Frauen digital zu entkleiden, was die Sorgen über den ethischen Einsatz von KI weiter verschärft.

Massives Problem, Tech-Giganten auf dem heißen Stuhl

Die Statistiken sind eine unangenehme Lektüre - diese Apps wurden weltweit mehr als 705 Millionen Mal heruntergeladen und generierten einen Umsatz von $117 Millionen. Dies unterstreicht nicht nur das Ausmaß des Problems, sondern auch die Tatsache, dass es ein eklatantes Problem ist, dass nicht einvernehmliche, sexualisierte Inhalte auf Knopfdruck verfügbar sind.

Obwohl sowohl Apple als auch Google strenge Richtlinien haben, die explizite Inhalte und Ausbeutung verbieten, spricht die Hartnäckigkeit dieser Apps Bände über die systematischen Schwächen bei der Durchsetzung dieser Richtlinien. Die Tech-Giganten stehen nun unter dem Druck, neu zu bewerten, wie diese Apps durch die virtuellen Ritzen schlüpfen und in den Händen von Millionen von Nutzern landen.

Dringender Bedarf an echten Veränderungen

Obwohl der KI-Bildeditor von Grok im Mittelpunkt des Medieninteresses stand, bestätigt der Bericht des TTP, dass das Problem viel größer ist und sich nicht auf eine Plattform oder ein Tool beschränkt. Der florierende Markt für solche Apps deutet auf größere systemische Versäumnisse und einen beunruhigenden Appetit auf Tools hin, die digitale Belästigung ermöglichen.

Jetzt wird der Ruf von Anwälten, Organisationen für digitale Rechte und Nutzergemeinschaften nach sofortigen Abhilfemaßnahmen lauter denn je. Die beunruhigende Zugänglichkeit solcher Apps trägt zu einem toxischen Online-Umfeld bei, insbesondere für Frauen. Gefordert werden eine bessere Regulierung, ein strenges Prüfverfahren für Apps und solide Schutzmaßnahmen für die Nutzer.

Für ein tieferes Verständnis des Themas lesen Sie bitte die vollständige Analyse auf The Verge.