Enorme: Quasi tutti i membri del Consiglio di Sicurezza dell'ONU sono a favore della regolamentazione dell'AI o dell'impostazione di linee rosse. Non era mai stato discusso così apertamente e a un livello diplomatico così alto il principio delle linee rosse per l'AI. Il Segretario Generale dell'ONU Antonio Guterres ha aperto la sessione con un fermo appello all'azione per le linee rosse: • “un divieto sui sistemi d'arma autonomi letali che operano senza controllo umano, con [...] uno strumento giuridicamente vincolante entro il prossimo anno” • “la necessità di garantire che l'AI non abbassi mai le barriere per acquisire o utilizzare armi proibite” Poi, Yoshua Bengio ha preso la parola e ha evidenziato il nostro Appello Globale per le Linee Rosse dell'AI — ora sostenuto da 11 premi Nobel e 9 ex capi di stato e ministri. Quasi tutti i paesi erano favorevoli a delle linee rosse: Cina: “È essenziale garantire che l'AI rimanga sotto controllo umano e prevenire l'emergere di armi autonome letali che operano senza intervento umano.” Francia: “Siamo pienamente d'accordo con il Segretario Generale, vale a dire che nessuna decisione di vita o di morte dovrebbe mai essere trasferita a un sistema d'arma autonomo che opera senza alcun controllo umano.” Mentre gli Stati Uniti hanno rifiutato l'idea di “governance globale centralizzata” per l'AI, questo non equivaleva a rifiutare tutte le norme internazionali. Il Presidente Trump ha dichiarato all'UNGA che la sua amministrazione sarebbe stata pioniera di “un sistema di verifica dell'AI di cui tutti possano fidarsi” per far rispettare la Convenzione sulle Armi Biologiche, dicendo “speriamo che l'ONU possa svolgere un ruolo costruttivo.”

Il Vaticano sta anche chiedendo linee rosse. Una settimana prima dell'annuncio della Chiamata Globale per le Linee Rosse dell'IA all'Assemblea Generale delle Nazioni Unite, un'altra chiamata è stata lanciata a Roma da un gruppo di esperti commissionati dal Vaticano: "Fraternità nell'Era dell'IA." Questa lettera pubblica è indirizzata direttamente al Papa e ai leader mondiali. Gli autori, alcuni dei quali sono anche tra i firmatari della Chiamata Globale, affermano il loro sostegno per le seguenti linee rosse: "Lo sviluppo della superintelligenza […] non dovrebbe essere consentito fino a quando non ci sarà un ampio consenso scientifico che sarà fatto in modo sicuro e controllabile, e ci sarà un chiaro e ampio consenso pubblico." "I sistemi di IA non devono mai essere autorizzati a prendere decisioni di vita o di morte, specialmente in applicazioni militari." "Governi, corporazioni e chiunque altro non dovrebbe armare l'IA per alcun tipo di dominio, guerre di aggressione illegali, coercizione, manipolazione, punteggi sociali o sorveglianza di massa ingiustificata." I firmatari chiedono anche un "trattato internazionale vincolante che stabilisca linee rosse e un'istituzione di supervisione indipendente con poteri di enforcement." Il coordinatore scientifico di questa lettera è Paolo Benanti, il consigliere diretto del Papa per l'IA, quindi si tratta di una questione molto importante.

Il tempo per l'auto-regolamentazione dell'AI è finito. 200 premi Nobel, ex capi di stato e esperti del settore hanno appena firmato una dichiarazione: "Chiediamo urgentemente linee rosse internazionali per prevenire rischi inaccettabili legati all'AI" L'appello è stato presentato oggi all'Assemblea Generale delle Nazioni Unite da Maria Ressa, vincitrice del Premio Nobel per la Pace: