Riesig: Fast alle Mitglieder des UN-Sicherheitsrats sind für eine Regulierung von KI oder das Setzen von roten Linien. Noch nie zuvor wurde das Prinzip der roten Linien für KI so offen und auf so hohem diplomatischen Niveau diskutiert. UN-Generalsekretär Antonio Guterres eröffnete die Sitzung mit einem klaren Aufruf zum Handeln für rote Linien: • „ein Verbot von tödlichen autonomen Waffensystemen, die ohne menschliche Kontrolle operieren, mit [...] einem rechtlich verbindlichen Instrument bis nächstes Jahr“ • „die Notwendigkeit sicherzustellen, dass KI niemals die Hürden für den Erwerb oder Einsatz verbotener Waffen senkt“ Dann ergriff Yoshua Bengio das Wort und hob unseren Globalen Aufruf für KI-Rote Linien hervor – jetzt unterstützt von 11 Nobelpreisträgern und 9 ehemaligen Staatsoberhäuptern und Ministern. Fast alle Länder waren für einige rote Linien: China: „Es ist entscheidend, sicherzustellen, dass KI unter menschlicher Kontrolle bleibt und die Entstehung von tödlichen autonomen Waffen, die ohne menschliches Eingreifen operieren, zu verhindern.“ Frankreich: „Wir stimmen dem Generalsekretär voll und ganz zu, nämlich dass keine Entscheidung über Leben oder Tod jemals an ein autonomes Waffensystem übertragen werden sollte, das ohne menschliche Kontrolle operiert.“ Während die USA die Idee einer „zentralisierten globalen Governance“ für KI ablehnten, bedeutete dies nicht, dass alle internationalen Normen abgelehnt wurden. Präsident Trump erklärte bei der UNGA, dass seine Regierung ein „KI-Überprüfungssystem, dem jeder vertrauen kann“, einführen würde, um das Biowaffenübereinkommen durchzusetzen, und sagte: „Hoffentlich kann die UN eine konstruktive Rolle spielen.“

Der Vatikan fordert ebenfalls rote Linien. Eine Woche vor der Ankündigung des Globalen Aufrufs zu AI-Roten Linien bei der UN-Generalversammlung wurde in Rom ein weiterer Aufruf von einer Gruppe von Experten, die vom Vatikan beauftragt wurden, gestartet: "Brüderlichkeit im Zeitalter der KI." Dieser öffentliche Brief richtet sich direkt an den Papst und an die Staatsoberhäupter der Welt. Die Autoren, von denen mehrere auch zu den Unterzeichnern des Globalen Aufrufs gehören, bekräftigen ihre Unterstützung für die folgenden roten Linien: "Die Entwicklung von Superintelligenz […] sollte nicht erlaubt werden, bis es einen breiten wissenschaftlichen Konsens gibt, dass sie sicher und kontrollierbar durchgeführt werden kann, und es eine klare und breite öffentliche Zustimmung gibt." "KI-Systeme dürfen niemals Entscheidungen über Leben und Tod treffen, insbesondere nicht in militärischen Anwendungen." "Regierungen, Unternehmen und jeder andere sollten KI nicht für irgendeine Art von Dominanz, illegalen Aggressionskriegen, Zwang, Manipulation, sozialer Bewertung oder unbegründeter Massenüberwachung waffen." Die Unterzeichner fordern auch einen "verbindlichen internationalen Vertrag zur Festlegung von roten Linien und einer unabhängigen Aufsichtsbehörde mit Durchsetzungsbefugnissen." Der wissenschaftliche Koordinator dieses Briefes ist Paolo Benanti, der direkte Berater des Papstes für KI, daher ist dies eine sehr große Sache.

Die Zeit für die Selbstregulierung von KI ist vorbei. 200 Nobelpreisträger, ehemalige Staatsoberhäupter und Branchenexperten haben gerade eine Erklärung unterzeichnet: "Wir fordern dringend internationale rote Linien, um inakzeptable KI-Risiken zu verhindern." Der Aufruf wurde heute bei der UN-Generalversammlung von Maria Ressa, Nobelpreisträgerin für den Frieden, präsentiert: