Groot: Bijna alle leden van de VN-Veiligheidsraad zijn voorstander van AI-regulering of het stellen van rode lijnen. Nooit eerder was het principe van rode lijnen voor AI zo openlijk en op zo'n hoog diplomatiek niveau besproken. VN-secretaris-generaal Antonio Guterres opende de sessie met een krachtige oproep tot actie voor rode lijnen: • “een verbod op dodelijke autonome wapensystemen die zonder menselijke controle opereren, met [...] een juridisch bindend instrument tegen volgend jaar” • “de noodzaak om ervoor te zorgen dat AI nooit de drempels verlaagt voor het verwerven of inzetten van verboden wapens” Daarna nam Yoshua Bengio het woord en benadrukte onze Wereldwijde Oproep voor AI Rode Lijnen — nu onderschreven door 11 Nobelprijswinnaars en 9 voormalige staatshoofden en ministers. Bijna alle landen waren voorstander van enkele rode lijnen: China: “Het is essentieel om ervoor te zorgen dat AI onder menselijke controle blijft en om de opkomst van dodelijke autonome wapens die zonder menselijke tussenkomst opereren te voorkomen.” Frankrijk: “We zijn het volledig eens met de secretaris-generaal, namelijk dat geen beslissing over leven of dood ooit mag worden overgedragen aan een autonoom wapensysteem dat zonder enige menselijke controle opereert.” Terwijl de VS het idee van “gecentraliseerd wereldwijd bestuur” voor AI verwierp, betekende dit niet dat alle internationale normen werden verworpen. President Trump verklaarde op de VN Algemene Vergadering dat zijn regering een “AI-verificatiesysteem dat iedereen kan vertrouwen” zou pionieren om het Verdrag inzake Biologische Wapens te handhaven, en zei: “hopelijk kan de VN een constructieve rol spelen.”

Het Vaticaan roept ook op tot rode lijnen. Een week voor de aankondiging van de Wereldwijde Oproep voor AI Rode Lijnen op de Algemene Vergadering van de VN, werd er in Rome een andere oproep gelanceerd door een groep experts die door het Vaticaan zijn aangesteld: "Broederschap in het Tijdperk van AI." Deze openbare brief is rechtstreeks gericht aan de paus en aan wereldleiders. De auteurs, van wie er verschillende ook onder de ondertekenaars van de Wereldwijde Oproep zijn, bevestigen hun steun voor de volgende rode lijnen: "De ontwikkeling van superintelligentie […] mag niet worden toegestaan totdat er brede wetenschappelijke consensus is dat dit veilig en controleerbaar zal gebeuren, en er duidelijke en brede publieke instemming is." "AI-systemen mogen nooit worden toegestaan om leven of dood beslissingen te nemen, vooral niet in militaire toepassingen." "Overheden, bedrijven en iedereen die ook maar iets te maken heeft, mogen AI niet wapenen voor enige vorm van dominantie, illegale oorlogen van agressie, dwang, manipulatie, sociale scoring of ongegronde massale surveillance." De ondertekenaars roepen ook op tot "een bindend internationaal verdrag dat rode lijnen vaststelt en een onafhankelijke toezichthoudende instantie met handhavingsbevoegdheden." De wetenschappelijke coördinator van deze brief is Paolo Benanti, de directe adviseur van de paus voor AI, dus dit is een zeer grote zaak.

De tijd voor zelfregulering van AI is voorbij. 200 Nobelprijswinnaars, voormalige staatshoofden en industrie-experts hebben zojuist een verklaring ondertekend: "We roepen dringend op tot internationale rode lijnen om onaanvaardbare AI-risico's te voorkomen." De oproep werd vandaag gepresenteerd op de Algemene Vergadering van de VN door Maria Ressa, Nobelprijswinnares voor de Vrede: