Führende Politiker der Welt ziehen gemeinsam "rote Linien" für KI, bevor es zu spät ist

Globale Führungspersönlichkeiten dazu bringen, rote Linien für KI zu ziehen

In einer bemerkenswerten Zusammenkunft am Montag gab eine vielfältige Gruppe von über 200 einflussreichen Persönlichkeiten, darunter ehemalige Staatsmänner, Nobelpreisträger, KI-Pioniere, herausragende Wissenschaftler und Berufsdiplomaten, eine gemeinsame Erklärung ab. Mit lauter Stimme drängten sie auf eine weltweit anerkannte Verständigung über die Maßnahmen, die außerhalb der Reichweite der künstlichen Intelligenz bleiben müssen. Als prominente Beispiele nannten sie den Einsatz von KI zur Imitation von Menschen oder die Möglichkeit der Selbstreplikation.

Start der Global Call for AI Red Lines Initiative

Aus dem Chor dieser einflussreichen Stimmen entstand die Globaler Aufruf zu roten Linien für AI Initiative. Diese umfassende Forderung ruft Regierungsstellen auf der ganzen Welt dazu auf, bis Ende 2026 einen politischen Konsens über die Grenzen der KI zu erzielen. Zu den namhaften Unterzeichnern gehören KI- und politische Schwergewichte wie Geoffrey Hinton, ein Pionier des Deep Learning, Wojciech Zaremba, Mitbegründer von OpenAI, Jason Clinton, CISO bei Anthropic, und Ian Goodfellow von Google DeepMind.

Charbel-Raphaël Segerie, Exekutivdirektor des französischen Zentrums für KI-Sicherheit (CeSIA), betonte die Notwendigkeit, einer potenziellen großen Krise vorzubeugen, bevor sie ausbricht. In einem Pressebriefing bekräftigte er, dass sich alle Nationen darüber einig sein müssen, was KI nicht tun darf, auch wenn die Anwendungsmethoden unterschiedlich sind. Die Initiative, die zeitgleich mit der 80. hochrangigen Woche der Generalversammlung der Vereinten Nationen in New York stattfindet, wird von CeSIA, The Future Society und dem Center for Human-Compatible Artificial Intelligence der UC Berkeley geleitet. Auch die Friedensnobelpreisträgerin Maria Ressa erwähnte die Initiative in ihrer Eröffnungsrede bei der UNO und sprach sich für eine globale Rechenschaftspflicht und die Beendigung der Straflosigkeit von Big Tech" aus.

Verzicht auf freiwillige Zusagen für vorgeschriebene Governance

Im Zusammenhang mit der KI-Sicherheit haben viele Regionen einige Schritte in die richtige Richtung unternommen, wie z. B. Europas KI-Gesetz, das bestimmte "inakzeptable" KI-Nutzungen verbietet, sowie die Vereinbarung zwischen den USA und China, die menschliche Kontrolle über Atomwaffen trotz der KI-Entwicklung beizubehalten. Dennoch bleibt das Ziel einer universell vereinbarten Haltung schwer zu erreichen. Niki Iliadis, Direktorin für globale KI-Governance bei The Future Society, merkte an, dass freiwillige Selbstverpflichtungen von KI-Firmen den Anforderungen nicht genügen. Notwendig sei eine autonome globale Institution, die befugt sei, rote Linien für KI festzulegen, zu verwalten und durchzusetzen.

Stuart Russell, ein bekannter KI-Wissenschaftler und Professor an der UC Berkeley, wies erneut auf die Bedeutung eines sicheren technologischen Weges hin. Indem er Parallelen zur Atomenergie zog, wo Sicherheitsprotokolle bereits vor dem Bau von Kernkraftwerken eingeführt wurden, betonte Russell, dass die KI-Industrie von Anfang an Sicherheitsmaßnahmen in Betracht ziehen sollte. Er sprach auch die Bedenken an, dass regulatorische Rahmenbedingungen den innovativen Fortschritt behindern könnten. Er räumte ein, dass Fortschritte in der KI möglich seien, allerdings ohne die unkontrollierbare und potenziell verheerende künstliche allgemeine Intelligenz, und bezeichnete den behaupteten Kompromiss als Trugschluss.

Weitere Einzelheiten finden Sie in dem Originalartikel auf The Verge.