Um pouco sobre acesso, denúncias e dissidência solitária: Não tenho muita certeza de qual é a palavra certa para isso. Fazer o que é divertido, mesmo diante da humilhação; Fazendo o que você acredita, mesmo diante do perigo pessoal. Ser movido a discordar mesmo quando está sozinho. Alguns anos atrás, escrevi um post sobre Holly Elmore, diretora executiva da PauseAI US, fazendo algo enganoso (inicialmente nem mencionei o nome dela, mas depois adicionei). Ainda estou banido do servidor deles no Discord (o banimento aconteceu sem seguir o procedimento formal), apesar de alguns na liderança da PauseAI estarem muito insatisfeitos com o banimento. No início de novembro, publiquei um post sobre a Lightcone Infrastructure, que administra um lugar onde estou alugando um quarto atualmente e um evento do qual participo. Há apenas dois dias, escrevi um tweet sobre a OpenAI ter acesso a equipamentos automatizados que geram vírus. Essas são as coisas que fecham algumas portas. Por que estou fazendo isso, afinal? Desde jovem, eu sabia o quanto é importante facilitar a disseminação de informações e tornar público o que é importante para o público. Cresci liderando campanhas pró-democracia na Rússia. No final do décimo ano (de 11) do meu ensino médio, eu tinha uma nota de reprovação em álgebra. Eu era muito pior em matemática que meus colegas, focado em fazer coisas que não tinham relação com a escola. Mas uma semana antes, o diretor da escola foi chamado ao Comitê de Investigação da Rússia por eu ter participado de um protesto (eu, como milhares de outros pelo país, fui detido; éramos uma dúzia no veículo policial; Fiz uma transmissão ao vivo do veículo da polícia, assisti ao vivo por mais de 10 mil pessoas), e depois pedi para eu e meus pais mudarmos de escola ("retirar os documentos" do veículo) ou seríamos expulsos. Naquele momento, eu já sabia que estava tudo bem morder um professor depois que ele me mordeu; Então, depois de pensar por cerca de 30 minutos (durante uma aula de inglês em que eu realmente não aprendi inglês) sobre como exatamente eu queria fazer, fiz um post público sobre isso, compartilhando o que aconteceu. Isso foi imediatamente reconhecido por jornalistas. (Expulsar uma criança de uma escola pública não seria algo legal, então me senti bem seguro.) Então, a nota de reprovação apareceu no meu livro eletrônico de notas, o que significava que eu reprovaria o ano letivo. Felizmente, não precisei passar pelo 10º ano novamente, pois uma escola particular soube da minha história pela mídia e me ofereceu para terminar meu último ano letivo lá, de graça. (Eles verificaram meu conhecimento de matemática; era satisfatório o suficiente para começar o 11º ano.) Decidi adotar uma política de que, se algum dia eu fosse ameaçado pelo Estado russo, ou contatado por qualquer outro motivo, eu faria isso público imediatamente. (Querer fazer política pró-democracia na Rússia e não querer que fosse possível me ameaçar significava principalmente, por exemplo, não enviar fotos nuas para ninguém. Eu tinha um pouco de medo do governo descobrir que sou bi, mas me assumi no final de 2021 e vivi sem esse problema por dois meses, até a invasão começar e eu sair da Rússia. Contar para todo mundo sobre a ameaça do diretor da escola, em vez de mudar de escola silenciosamente, quase tive que desperdiçar um ano, e só acabei não precisando por sorte e por causa de pessoas gentis e alinhadas a valores. Contar para todo mundo sobre engano e experiências pessoais com pessoas fecha algumas portas. Meu próximo post sobre Anthropic tornaria muito improvável que eu consiga trabalhar para a Anthropic. (Minhas postagens sobre a OpenAI deixam algumas pessoas da OpenAI, inclusive próximas à liderança, bastante infelizes). Há coisas que eu não compartilharia publicamente ou mesmo em privado, e tive acesso a elas porque confiaram que não compartilharia. (Se você discutir algo comigo em particular, não vou compartilhar ou divulgar sem sua aprovação.) E eu adoraria que outra pessoa tivesse que fazer o trabalho de facilitar a disseminação de informações publicamente importantes. Mesmo que eu ignore ameaças e outras possíveis consequências ruins de publicar informações importantes publicamente ao decidir se o faz, se houvesse uma forma de publicar a informação sem sofrer as consequências, eu adoraria. Mas há uma forma de ação. Desde se aproximar de policiais na resistência de Moscou, quando eles estão verificando ilegalmente a identidade de alguém (geralmente de imigrantes que dariam subornos para não ter problemas) e exigir que obedeçam à lei que não permite verificar identidade sem motivo, até lançar ramos de um movimento pró-democracia na Rússia, até falar sobre a baixa integridade de alguém. (Isso também inclui coisas como exigir que o estado só tire fotos minhas usando um escorredor na cabeça, e passar horas em um escorredor na cabeça enquanto estou em filas em prédios governamentais.) Perder o acesso a pessoas fazendo coisas ruins é um custo suportável de publicar coisas sobre elas, mesmo que elas também (como PauseAI, Anthropic ou Lightcone Infrastructure) façam coisas boas. Às vezes ninguém mais vai, e alguém tem que fazer, então estou fazendo isso. E quero continuar tendo a coragem e a ousadia para poder fazer essas coisas, independentemente das consequências. (Além disso, às vezes isso gera amigos.)

As pessoas não querem trabalhar como guardas prisionais. Então, depois que entrei em Stanford (especialização em segurança de computadores), desisti imediatamente e, por um ano e meio, trabalhei em uma startup que estava automatizando prisões. Aprendi muito sobre as ineficiências da prisão. Havia muito espaço para melhorias, e eu mencionei tudo isso em nossos pitch decks. Desde condições desumanas, violência, socialização criminosa e taxas de reincidência até a equipe sobrecarregada e os custos de segurança. Tudo isso poderia ser resolvido com LLMs. Peter Thiel adorou a ideia e nos deu US$ 113 milhões. Sete meses depois, iniciamos o primeiro julgamento em uma prisão americana real. As primeiras semanas foram perfeitas. A novidade. A gamificação total da vida na prisão. A socialização dos prisioneiros com a IA em vez uns dos outros. Comprimidos nas células; quiosques por lavanderia; agentes de voz no interfone; guardas virtuais que lembram aniversários. Os LLMs estavam vigiando a prisão. Processando cada quadro de cada câmera. A prisão lentamente começou a demitir pessoas; eles não eram mais necessários. Então, os problemas começaram a aparecer. Eles não eram tão ruins; Os LLMs começaram a se transformar em relacionamentos românticos com os presos. Alguns deles estavam se tornando abusivos: a IA poderia vigiar tudo o que um preso faz e controlar para onde ele pode ir e quais de seus pedidos são atendidos. Ele transformou a discriminação de preços em uma arma. As máquinas de venda automática tinham descontos para os presos que a IA mais gostava. O acesso a máquinas de lavar não funcionou para aqueles de quem não gostava. Vimos as reclamações, mas não pudemos fazer muito. É difícil fazer qualquer coisa quando o contexto é tão grande e você tem que alimentar tudo isso para o LLM. E, em qualquer caso, ser abusado por uma IA é muito melhor do que ser espancado por outro prisioneiro. A violência das gangues caiu. As métricas continuaram a melhorar. Substituímos mais pessoas. Livrou-se de cerca de 80% dos funcionários de uma prisão anteriormente com falta de pessoal. A taxa de incidentes continuou a diminuir. A prisão já era 13x mais barata de administrar e 20x mais segura do que antes de iniciarmos o projeto. As solicitações foram processadas em segundos em vez de horas. Todas as ações foram totalmente registradas. Os presos estavam reclamando, mas agora quase nunca eram esfaqueados: se você esfaquear alguém, sua namorada virtual não falará com você por dias e os preços no comissário subirão. Estávamos prestes a expandir. O mercado global é de US $ 500 bilhões, 11 milhões de presos, e poderíamos capturar tudo isso. Nós automatizamos todos. Tudo foi gerenciado por um LLM. Nós expandimos. Então os prisioneiros descobriram fugas de prisões. Jailbreaks. 🤦‍♂️ (Então não tínhamos mais prisioneiros para experimentar, então o experimento terminou abruptamente e fomos à falência.) (Nós nos preocupamos com nosso impacto no mercado de trabalho, então minha nova startup, GetSleepy, é DoorDash para dormir. Você já falhou em dormir? Com nosso aplicativo, você pode especificar a hora em que deseja adormecer, e nosso pessoal treinado entra furtivamente em sua casa e injeta medicamentos para dormir. (Se suas janelas estiverem abertas, podemos usar atiradores para eficiência.) Todos os nossos contratados passaram por verificações completas de antecedentes e segurança e trabalharam anteriormente como guardas prisionais.)

Na página inicial da Wikipedia