Der Schutz vor dem Missbrauch von KI-Technologien zur Erstellung von nicht einvernehmlichen, sexuell eindeutigen Bildern wird zunehmend zu einer Herkulesaufgabe. Ein neuer Bericht zeigt, dass trotz bestimmter Präventivmaßnahmen immer noch zahlreiche “Nudify”-Apps auf den wichtigsten Plattformen zu finden sind. Dies gibt Anlass zur Sorge, dass das Problem viel weiter verbreitet ist, als es scheint.
Eine bemerkenswerte Untersuchung, die von der Projekt "Technische Transparenz" (TTP) Licht in diese besorgniserregende Entwicklung bringen. Es stellte sich heraus, dass sowohl Google als auch Apple eine erschreckend hohe Anzahl dieser Apps hosten – 55 im Google Play Store und 48 im App Store von Apple. Diese Apps nutzen KI, um Bilder von Frauen digital zu entkleiden, was die Bedenken hinsichtlich des ethischen Einsatzes von KI weiter verschärft.
Die Statistiken sind beunruhigend – diese Apps wurden weltweit mehr als 705 Millionen Mal heruntergeladen und erzielten einen Umsatz von satten $117 Millionen. Dies unterstreicht nicht nur das Ausmaß des Problems; es gibt ein eklatantes Problem, dass nicht einvernehmliche, sexualisierte Inhalte auf Knopfdruck leicht zugänglich sind.
Obwohl sowohl Apple als auch Google strenge Richtlinien haben, die explizite Inhalte und Ausbeutung verbieten, spricht die Hartnäckigkeit dieser Apps Bände über die systematischen Schwächen bei der Durchsetzung dieser Richtlinien. Die Tech-Giganten stehen nun unter dem Druck, neu zu bewerten, wie diese Apps durch die virtuellen Ritzen schlüpfen und in den Händen von Millionen von Nutzern landen.
Auch wenn der KI-Bildbearbeitungseditor von Grok im Mittelpunkt des Medieninteresses stand, bestätigt der Bericht der TTP, dass das Problem weitaus größer ist und sich nicht auf eine einzige Plattform oder ein einzelnes Tool beschränkt. Der boomende Markt für solche Apps deutet auf größere systemische Versäumnisse und eine besorgniserregende Nachfrage nach Tools hin, die digitale Belästigung ermöglichen.
Mehr denn je werden nun von Interessenvertretern, Organisationen für digitale Rechte und Nutzergemeinschaften immer lautere Forderungen nach sofortigen Abhilfemaßnahmen laut. Die beunruhigende Zugänglichkeit solcher Apps trägt zu einem toxischen Online-Umfeld bei, insbesondere für Frauen. Es wird eine verbesserte Regulierung, ein strenger Prüfprozess für Apps und wirksame Schutzmaßnahmen für die Nutzer gefordert.
Für ein tieferes Verständnis des Themas lesen Sie bitte die vollständige Analyse auf The Verge.
Diese Website verwendet Cookies.