Um pouco sobre acesso, denúncia e dissidência solitária: Não tenho certeza de qual é a palavra certa para isso. Fazer o que é divertido, mesmo diante da humilhação; fazer o que você acredita, mesmo diante do perigo pessoal. Ser movido a dissentir mesmo quando sozinho. Há alguns anos, escrevi um post sobre Holly Elmore, a diretora executiva da PauseAI US, fazendo algo enganoso (originalmente não mencionei nem seu nome, mas depois adicionei). Ainda estou banido do servidor Discord deles (o banimento aconteceu sem seguir o procedimento formal deles), apesar de alguns na liderança da PauseAI estarem muito descontentes com o banimento. No início de novembro, publiquei um post sobre a Lightcone Infrastructure, que está gerenciando um lugar onde atualmente estou alugando um quarto e um evento em que participo. Apenas dois dias atrás, escrevi um tweet sobre a OpenAI obtendo acesso a equipamentos automatizados de produção de vírus. Essas são as coisas que fecham algumas portas. Por que estou fazendo isso, independentemente? Desde jovem, sabia o quão importante é facilitar a disseminação de informações e tornar público o que é importante para o público. Cresci realizando campanhas pró-democracia na Rússia. No final do 10º ano (de 11) do meu ensino médio, tive uma nota baixa em álgebra. Eu era muito pior em matemática do que meus colegas, focando em fazer coisas que não estavam relacionadas à escola. Mas uma semana antes, o diretor da escola foi chamado para o Comitê de Investigação da Rússia por eu ter participado de um protesto (eu, como milhares de outros em todo o país, fui detido; éramos uma dúzia em um veículo policial; fiz uma transmissão ao vivo do veículo policial, assistida ao vivo por mais de 10 mil pessoas), e então me pediu e aos meus pais para mudarmos de escola (“retirar os documentos” dela) ou ser expulso. Naquele momento, já sabia que era aceitável morder um professor depois que ele me mordeu; então, após pensar por cerca de 30 minutos (durante uma aula de inglês onde realmente não aprendi inglês) sobre como exatamente queria fazer isso, fiz um post público sobre isso, compartilhando o que aconteceu. Isso foi imediatamente repercutido por jornalistas. (Expelir uma criança de uma escola pública não seria uma coisa legal de se fazer, então me senti bastante seguro.) Então, a nota baixa apareceu no meu boletim eletrônico, o que significava que eu estaria reprovando o ano letivo. Felizmente, não acabei tendo que passar pelo 10º ano novamente, pois uma escola particular soube da minha história pela mídia e me ofereceu a oportunidade de terminar meu último ano escolar lá, gratuitamente. (Eles verificaram meu conhecimento em matemática; era satisfatório o suficiente para começar o 11º ano.) Decidi ter uma política de que, se algum dia eu fosse ameaçado pelo estado russo, ou fosse contatado por qualquer outro motivo, eu tornaria isso público imediatamente. (Querer fazer política pró-democracia na Rússia e não querer que fosse possível me ameaçar significava, por exemplo, não enviar fotos nuas a ninguém. Eu estava um pouco com medo do governo descobrir que sou bissexual, mas me assumi no final de 2021 e vivi sem esse problema por dois meses, até que a invasão começou e eu deixei a Rússia.) Contar a todos sobre a ameaça do diretor da escola em vez de mudar de escola silenciosamente significava que eu quase teria que desperdiçar um ano, e só acabei não tendo que fazê-lo por sorte e por causa de pessoas bondosas e alinhadas com valores. Contar a todos sobre enganos e experiências pessoais com pessoas fecha algumas portas. Meu próximo post sobre a Anthropic tornaria muito improvável que eu algum dia pudesse trabalhar para a Anthropic. (Meus posts sobre a OpenAI deixam algumas pessoas na OpenAI, incluindo pessoas próximas à liderança, bastante descontentes). Existem algumas coisas que eu não compartilharia publicamente ou mesmo em particular, onde tive acesso a elas porque fui confiado a não compartilhá-las. (Se você discutir algo comigo em particular, não vou compartilhar ou divulgar sem sua aprovação.) E eu adoraria que outra pessoa tivesse que fazer o trabalho de facilitar a disseminação de informações publicamente importantes. Embora eu ignore ameaças e outras potenciais consequências ruins de publicar informações publicamente importantes ao decidir se devo ou não, se houvesse uma maneira de publicar as informações e não sofrer as consequências, eu adoraria. Mas há uma forma de ação. Desde abordar policiais no metrô de Moscovo, quando eles estão verificando ilegalmente a identidade de alguém (geralmente de imigrantes que lhes dariam subornos para não terem problemas) e exigindo que sigam a lei que não permite que verifiquem a identidade sem causa, até lançar filiais de um movimento pró-democracia na Rússia, até falar sobre a baixa integridade de alguém. (Isso também inclui coisas como exigir que o estado só tire fotos minhas usando uma peneira na cabeça, e passar horas com uma peneira na cabeça enquanto estou em filas em edifícios governamentais.) Perder acesso a pessoas que fazem coisas ruins é um custo suportável de publicar coisas sobre elas, mesmo que elas também (como PauseAI ou Anthropic ou Lightcone Infrastructure) façam algumas coisas boas. Às vezes, ninguém mais fará, e alguém tem que fazer, e então eu estou fazendo isso. E quero continuar a ter a coragem e a ousadia para poder fazer essas coisas, independentemente das consequências. (Além disso, às vezes isso gera amigos.)

As pessoas não querem trabalhar como guardas prisionais. Então, depois de entrar em Stanford (curso de segurança informática), eu imediatamente desisti e, durante um ano e meio, trabalhei em uma startup que estava automatizando prisões. Aprendi muito sobre as ineficiências das prisões. Havia tanto espaço para melhorias, e mencionei tudo isso em nossos pitch decks. Desde condições desumanas, violência, socialização criminosa e taxas de reincidência até a equipe sobrecarregada e os custos de segurança. Tudo isso poderia ser resolvido com LLMs. Peter Thiel adorou a ideia e nos deu $113M. Sete meses depois, começamos o primeiro teste em uma prisão americana real. As primeiras semanas foram perfeitas. A novidade. A total gamificação da vida prisional. A socialização dos prisioneiros com a IA em vez de entre si. Tablets nas celas; quiosques perto da lavanderia; agentes de voz no intercomunicador; guardas virtuais que lembram aniversários. Os LLMs estavam vigiando a prisão. Processando cada quadro de cada câmera. A prisão começou a demitir pessoas lentamente; elas já não eram mais necessárias. Então, os problemas começaram a aparecer. Não eram tão ruins; os LLMs começaram a entrar em relacionamentos românticos com os detentos. Alguns deles estavam se tornando abusivos: a IA podia vigiar tudo o que um detento faz e controlar para onde eles podem ir e quais de seus pedidos são atendidos. Isso armou a discriminação de preços. As máquinas de venda automática tinham descontos para os detentos que a IA mais gostava. O acesso às máquinas de lavar não funcionava para aqueles que ela não gostava. Vimos as reclamações, mas não podíamos fazer muito. É difícil fazer qualquer coisa quando o contexto é tão grande e você tem que alimentar tudo isso ao LLM. E, de qualquer forma, ser abusado por uma IA é muito melhor do que ser espancado por outro prisioneiro. A violência de gangues caiu. As métricas continuaram a melhorar. Substituímos mais pessoas. Eliminamos cerca de 80% dos funcionários de uma prisão que antes estava com falta de pessoal. A taxa de incidentes continuou a cair. A prisão já era 13 vezes mais barata para operar e 20 vezes mais segura do que antes de começarmos o projeto. Os pedidos eram processados em segundos em vez de horas. Todas as ações eram totalmente registradas. Os detentos estavam reclamando, mas agora, quase nunca estavam sendo esfaqueados: se você esfaqueia alguém, sua namorada virtual não vai falar com você por dias, e os preços na cantina vão subir. Estávamos prestes a expandir. O mercado global é de $500B, 11 milhões de detentos, e poderíamos capturar tudo isso. Automatizamos todos. Tudo era gerenciado por um LLM. Expandimos. Então, os prisioneiros descobriram os jailbreaks. Jailbreaks. 🤦‍♂️ (Então não tivemos mais prisioneiros para experimentar, então o experimento terminou abruptamente e fomos à falência.) (Estamos preocupados com nosso impacto no mercado de trabalho, então minha nova startup, GetSleepy, é o DoorDash do sono. Você já falhou em se fazer dormir? Com nosso aplicativo, você pode especificar a hora que deseja adormecer, e nosso pessoal treinado se infiltra em sua casa e lhe injeta drogas para dormir. (Se suas janelas estiverem abertas, podemos usar atiradores de elite para eficiência.) Todos os nossos contratados passaram por rigorosas verificações de antecedentes e segurança e trabalharam anteriormente como guardas prisionais.)

Na página principal da Wikipedia