A OpenAI acrescentou uma nota de rodapé, dizendo: "Obviamente, ninguém deve implantar sistemas superinteligentes sem ser capaz de alinhá-los e controlá-los de forma robusta." Mas, como já apontei antes, é assustador que eles _desenvolvam_ um sistema assim que não podem controlar. Repare no que o post diz: "desenvolver e implantar." Eu adoraria que a OpenAI se comprometesse a não _construir_ um sistema assim.

Fico feliz que a OpenAI esteja sendo tão clara sobre suas intenções. Não fico nada feliz que este seja o mundo em que nos encontramos: A autoaperfeiçoamento recursivo – IA que se torna progressivamente mais inteligente – torna os desafios de segurança muito mais difíceis.