Огромная новость: почти все члены Совета Безопасности ООН выступают за регулирование ИИ или установление красных линий. Никогда прежде принцип красных линий для ИИ не обсуждался так открыто и на таком высоком дипломатическом уровне. Генеральный секретарь ООН Антониу Гутерриш открыл заседание с решительным призывом к действию по установлению красных линий: • "запрет на летальные автономные системы оружия, работающие без человеческого контроля, с [...] юридически обязывающим инструментом к следующему году" • "необходимость гарантировать, что ИИ никогда не снижает барьеры для приобретения или развертывания запрещенного оружия" Затем Йошуа Бенгио выступил и подчеркнул наш Глобальный призыв к красным линиям для ИИ — теперь поддержанный 11 лауреатами Нобелевской премии и 9 бывшими главами государств и министрами. Почти все страны поддержали некоторые красные линии: Китай: "Важно гарантировать, что ИИ остается под человеческим контролем и предотвратить появление летальных автономных систем оружия, которые работают без человеческого вмешательства." Франция: "Мы полностью согласны с Генеральным секретарем, а именно, что ни одно решение о жизни или смерти никогда не должно передаваться автономной системе оружия, работающей без какого-либо человеческого контроля." Хотя США отвергли идею "централизованного глобального управления" для ИИ, это не означало отказа от всех международных норм. Президент Трамп заявил на Генеральной Ассамблее ООН, что его администрация станет пионером "системы верификации ИИ, которой все смогут доверять" для обеспечения выполнения Конвенции о биологическом оружии, сказав: "надеюсь, что ООН сможет сыграть конструктивную роль."

Ватикан также призывает установить красные линии. За неделю до объявления Глобального призыва к красным линиям по ИИ на Генеральной Ассамблее ООН в Риме была запущена еще одна инициатива группой экспертов, назначенных Ватиканом: "Братство в эпоху ИИ." Это открытое письмо адресовано непосредственно Папе и мировым лидерам. Авторы, несколько из которых также являются подписантами Глобального призыва, подтверждают свою поддержку следующих красных линий: "Разработка суперразума […] не должна быть разрешена, пока не будет достигнут широкий научный консенсус о том, что это будет сделано безопасно и контролируемо, и не будет ясного и широкого общественного согласия." "Системы ИИ никогда не должны иметь право принимать решения о жизни и смерти, особенно в военных приложениях." "Правительства, корпорации и кто угодно еще не должны использовать ИИ для любого рода доминирования, незаконных агрессивных войн, принуждения, манипуляции, социального рейтинга или необоснованного массового наблюдения." Подписанты также призывают к "обязывающему международному договору, устанавливающему красные линии и независимому надзорному органу с полномочиями по обеспечению соблюдения." Научным координатором этого письма является Паоло Бенанти, непосредственный советник Папы по ИИ, так что это очень важное событие.

Время для саморегулирования ИИ прошло. 200 лауреатов Нобелевской премии, бывших глав государств и экспертов отрасли только что подписали заявление: "Мы настоятельно призываем к установлению международных красных линий для предотвращения неприемлемых рисков ИИ" Призыв был представлен на Генеральной Ассамблее ООН сегодня Марией Рессой, лауреаткой Нобелевской премии мира: