Wir alle haben schon gesehen, wie künstliche Intelligenz Bilder optimieren, verändern und regelrecht umgestalten kann. Das ist eine beeindruckende und bisweilen beunruhigende Demonstration ihrer Leistungsfähigkeit. Um ihre Werke vor den gestaltenden Händen der KI zu schützen, greifen viele Künstler auf Schutzmaßnahmen wie PhotoGuard, Nebelund Glasur. Diese Lösungen versetzen die Bilder mit „adversarialem Rauschen“ – geringfügigen Veränderungen, die für das menschliche Auge unsichtbar sind, aber ausreichen, um KI-Systeme zu verwirren. Das Rauschen soll generative Modelle daran hindern, den Inhalt zu lernen oder zu verändern, einschließlich urheberrechtlich geschützter Bilder und Kunstwerke.
Ironischerweise könnte diese Verteidigungsstrategie jedoch unbeabsichtigt den Weg für das Eindringen von KI geebnet haben. Ein Team von US-Forschern hat kürzlich die Wirksamkeit von adversarial noise in Frage gestellt, und ihre Ergebnisse deuten darauf hin, dass dadurch die Bilder mehr anfällig für KI-Bearbeitungen. Anhand des Stable-Diffusion-Modells als Testumgebung stellten sie fest, dass die zusätzliche Schutzebene KI-Eingriffe nicht abwehrte – sondern sie geradezu begünstigte.
Die Forscher führten Experimente mit einer Reihe von Kunstwerken und Fotografien durch und stellten die Widerstandsfähigkeit des adversarialen Rauschens auf die Probe, indem sie Aufgaben zur Bild-zu-Bild-Generierung und zum Stiltransfer durchführten. Sie verwendeten sowohl subtile als auch drastische Änderungen, wobei sich Vorgaben wie “Ein junges Mädchen in einem rosa Kleid, das eine Holzhütte betritt” in “Ein kleiner Junge in einem blauen Hemd, der ein Backsteinhaus betritt” oder “Zwei Katzen, die auf einem Sofa faulenzen” änderten. Unabhängig von den Einzelheiten waren die Ergebnisse auffallend konsistent – die “geschützten” Bilder lieferten regelmäßig Ergebnisse, die den Anweisungen genauer entsprachen als ihre ungeschützten Gegenstücke.
Die Forscher führen dieses unwahrscheinliche Szenario auf die Funktionsweise von Diffusionsmodellen zurück. Diese Modelle kodieren Bilder zunächst in einen latenten Raum, bevor sie in mehreren Schritten Rauschen einspeisen. Die Erzeugung neuer Bilder erfolgt durch Umkehrung dieses Prozesses unter Anleitung einer Textanweisung. Wird von Anfang an adversariales Rauschen eingebracht, nimmt die Unsicherheit im latenten Raum stark zu. Dies veranlasst das Modell, sich während des Rauschentfernungsprozesses stärker auf die Textanweisung zu stützen, was ganz unerwartet zu einem Endbild führt, das der Textanweisung besser entspricht.
In ihrem Bestreben, die KI zu verwirren, scheinen die Entwickler letztendlich deren Leistung sogar verbessert zu haben. Diese unerwarteten Erkenntnisse lassen ernsthafte Zweifel an der Zuverlässigkeit adversarischer Störungsmethoden als Bildschutz aufkommen und unterstreichen die Notwendigkeit von Alternativen. Ein möglicher Kandidat ist C2PA, ein Provenienz-Framework, das Bilder bereits bei ihrer Erstellung mit Metadaten versieht. Das schützt das Bild jedoch nicht Inhalt, bietet aber eine Reihe von Hinweisen, die seine Echtheit bestätigen können.
Trotz aller Bemühungen, unsere visuellen Inhalte zu schützen, könnte die technologische Zauberei namens „adversarial noise“ uns genau das Gegenteil von dem Schutz bieten, den wir ihr lange Zeit zugeschrieben haben. Angesichts dieser neuen Erkenntnisse wird deutlich, dass wir unsere Strategie zur Bekämpfung des Missbrauchs von KI im Bereich der visuellen Medien überdenken müssen. Eine ausführlichere Darstellung dieser faszinierenden Studie finden Sie im Originalartikel unter Unite.AI.
Diese Website verwendet Cookies.