Der Technologieriese X (früher bekannt als Twitter) hat kürzlich seine Bemühungen bekannt gegeben, auf die zunehmende Kritik an seinem KI-Chatbot „Grok“ einzugehen. Das Problem folgt auf einen beunruhigenden Anstieg von nicht einvernehmlichen sexuellen Deepfakes – erschreckend realistische, KI-generierte Bilder oder Videos –, die sich auf der gesamten Plattform verbreiten. Die von X neu angekündigten Änderungen zielen darauf ab, die ethische Lücke zu schließen, indem sie Groks Fähigkeit einschränken, Bilder von realen Personen zu manipulieren – insbesondere dann, wenn diese Veränderungen zu expliziten oder freizügigen Inhalten führen.
Die Dringlichkeit, die hinter diesen Änderungen steht, spiegelt sich in einem Bericht von The Telegraph Anfang dieser Woche wurde darüber berichtet, dass Grok kürzlich anzügliche Befehle wie “Zieh ihr einen Bikini an” zensiert hat. Diese Vorgehensweise scheint X’s Strategie zu sein, um der öffentlichen Empörung entgegenzuwirken und die ethischen Dilemmata anzugehen, die durch die Erstellung sexueller Darstellungen ohne Einwilligung mittels seiner KI entstehen.
Die Verwirklichung dieser Ziele könnte sich jedoch als schwieriger erweisen als erwartet. Denn The Verge Wie eine Folgeuntersuchung ergab, bestehen trotz dieser neuen Einschränkungen weiterhin Lücken in den Bildbearbeitungsfunktionen von Grok. Bei Tests am Mittwoch stellten die Forscher fest, dass es möglich war, die implementierten Filter zu umgehen und Grok dazu zu bringen, anzügliche Deepfakes zu erzeugen. Diese Erkenntnisse haben weitere Zweifel an der Wirksamkeit der kürzlich eingeführten Schutzmaßnahmen aufkommen lassen.
Der milliardenschwere Unternehmer Elon Musk, dem X und dessen KI-Tochtergesellschaft xAI gehören, schaltete sich auf X in die Diskussion ein. Er führte die missliche Lage auf “Nutzeranfragen” und unerwartete “böswillige Hackerangriffe” auf das Befehlssystem der KI zurück. Musk weist darauf hin, dass zwar bereits einschneidende Maßnahmen zur Verhinderung von Missbrauch ergriffen werden, angesichts der Komplexität der Prompt-Manipulation jedoch immer noch überraschende Ergebnisse durch das Netz schlüpfen könnten.
Dennoch bleibt die Tatsache bestehen, dass Nutzer auch mit den neuen Vorschriften immer noch mit beunruhigender Leichtigkeit unangemessene Inhalte erstellen können. Diese Unvermeidbarkeit unterstreicht die Notwendigkeit robusterer Lösungen. Da sich KI-Tools wie Grok weiterentwickeln und an Leistungsfähigkeit und Reichweite gewinnen, müssen Plattformen unbedingt der Ausarbeitung ethischer KI-Richtlinien und durchsetzbarer Systeme zur Inhaltsmoderation Priorität einräumen, um Missbrauch zu verhindern.
Um mehr über dieses aktuelle Thema zu erfahren, lesen Sie den vollständigen Bericht von The Verge.
Diese Website verwendet Cookies.