In einer bemerkenswerten Zusammenkunft am Montag gab eine vielfältige Gruppe von über 200 einflussreichen Persönlichkeiten, darunter ehemalige Staatsmänner, Nobelpreisträger, KI-Pioniere, herausragende Wissenschaftler und Berufsdiplomaten, eine gemeinsame Erklärung ab. Mit lauter Stimme drängten sie auf eine weltweit anerkannte Verständigung über die Maßnahmen, die außerhalb der Reichweite der künstlichen Intelligenz bleiben müssen. Als prominente Beispiele nannten sie den Einsatz von KI zur Imitation von Menschen oder die Möglichkeit der Selbstreplikation.
Aus dem Chor dieser einflussreichen Stimmen entstand die Globaler Aufruf zu roten Linien für AI Initiative. Diese umfassende Forderung ruft Regierungsstellen auf der ganzen Welt dazu auf, bis Ende 2026 einen politischen Konsens über die Grenzen der KI zu erzielen. Zu den namhaften Unterzeichnern gehören KI- und politische Schwergewichte wie Geoffrey Hinton, ein Pionier des Deep Learning, Wojciech Zaremba, Mitbegründer von OpenAI, Jason Clinton, CISO bei Anthropic, und Ian Goodfellow von Google DeepMind.
Charbel-Raphaël Segerie, Geschäftsführer des französischen Zentrums für KI-Sicherheit (CeSIA), betonte die Notwendigkeit, einer potenziellen großen Krise zuvorzukommen, bevor sie sich entfaltet. In einer Pressekonferenz bekräftigte er, dass sich alle Nationen darüber einig sein müssen, was KI nicht tun darf, auch wenn die Anwendungsmethoden unterschiedlich sind. Die Initiative, die zeitgleich mit der hochrangigen Woche der 80. Generalversammlung der Vereinten Nationen in New York stattfindet, wird vom CeSIA, The Future Society und dem Center for Human-Compatible Artificial Intelligence der UC Berkeley geleitet. Auch die Friedensnobelpreisträgerin Maria Ressa erwähnte die Initiative in ihrer Eröffnungsrede vor der UNO und sprach sich für eine weltweit umfassende Rechenschaftspflicht sowie für ein Ende der “Straffreiheit der Big Tech”-Unternehmen aus.
Im Zusammenhang mit der Sicherheit von KI haben viele Regionen einige Schritte in die richtige Richtung unternommen, wie beispielsweise das europäische KI-Gesetz, das bestimmte “inakzeptable” KI-Anwendungen verbietet, sowie die Vereinbarung zwischen den USA und China, trotz der Weiterentwicklung der KI die menschliche Kontrolle über Atomwaffen zu bewahren. Dennoch bleibt das Ziel einer allgemein anerkannten Haltung weiterhin schwer zu erreichen. Niki Iliadis, Direktorin für globale KI-Governance bei The Future Society, merkte an, dass bloße freiwillige Zusagen von KI-Unternehmen den Anforderungen nicht genügen. Notwendig sei eine autonome globale Institution, die befugt sei, rote Linien für KI festzulegen, zu verwalten und durchzusetzen.
Stuart Russell, ein bekannter KI-Wissenschaftler und Professor an der UC Berkeley, wies erneut auf die Bedeutung eines sicheren technologischen Weges hin. Indem er Parallelen zur Atomenergie zog, wo Sicherheitsprotokolle bereits vor dem Bau von Kernkraftwerken eingeführt wurden, betonte Russell, dass die KI-Industrie von Anfang an Sicherheitsmaßnahmen in Betracht ziehen sollte. Er sprach auch die Bedenken an, dass regulatorische Rahmenbedingungen den innovativen Fortschritt behindern könnten. Er räumte ein, dass Fortschritte in der KI möglich seien, allerdings ohne die unkontrollierbare und potenziell verheerende künstliche allgemeine Intelligenz, und bezeichnete den behaupteten Kompromiss als Trugschluss.
Weitere Einzelheiten finden Sie in dem Originalartikel auf The Verge.
Diese Website verwendet Cookies.