Un poco sobre el acceso, la denuncia y la disidencia solitaria: No estoy del todo seguro de cuál es la palabra correcta para ello. Hacer lo que es divertido, incluso ante la humillación; hacer lo que crees, incluso ante el peligro personal. Sentirse impulsado a disentir incluso cuando estás solo. Hace un par de años, escribí una publicación sobre Holly Elmore, la directora ejecutiva de PauseAI US, haciendo algo engañoso (originalmente ni siquiera mencioné su nombre, pero luego lo añadí). Todavía estoy prohibido en su servidor de Discord (la prohibición ocurrió sin seguir su procedimiento formal), a pesar de que algunos en el liderazgo de PauseAI están muy descontentos con la prohibición. A principios de noviembre, publiqué una entrada sobre Lightcone Infrastructure, que está gestionando un lugar donde actualmente estoy alquilando una habitación y un evento en el que participo. Hace solo dos días, escribí un tuit sobre OpenAI obteniendo acceso a equipos automatizados que producen virus. Estas son las cosas que cierran algunas puertas. ¿Por qué las estoy haciendo, a pesar de todo? Desde joven, supe lo importante que es facilitar la difusión de información y hacer público lo que es importante para el público. Crecí organizando campañas pro-democracia en Rusia. Al final del décimo año (de 11) de mi escuela secundaria, tenía una calificación reprobatoria en álgebra. Era mucho peor en matemáticas que mis compañeros, ya que me enfocaba en hacer cosas que no estaban relacionadas con la escuela. Pero una semana antes, el director de la escuela fue llamado al Comité de Investigación de Rusia por mi asistencia a una protesta (yo, como miles de otros en todo el país, fui detenido; éramos una docena en el vehículo policial; transmití en vivo desde el vehículo policial, visto en vivo por más de 10k personas), y luego me pidió a mí y a mis padres que cambiáramos de escuela ("retirar los documentos" de ella) o ser expulsado. En ese momento, ya sabía que estaba bien morder a un profesor después de que él me mordiera; así que después de pensar durante unos 30 minutos (durante una clase de inglés donde realmente no aprendí nada de inglés) sobre cómo exactamente quería hacerlo, hice una publicación pública sobre esto, compartiendo lo que había sucedido. Esto fue inmediatamente recogido por periodistas. (Expulsar a un niño de una escuela pública no sería algo legal, así que me sentí bastante seguro.) Luego, la calificación reprobatoria apareció en mi libro de calificaciones electrónico, lo que significaba que iba a reprobar el año escolar. Afortunadamente, no terminé teniendo que repetir el año 10, ya que una escuela privada se enteró de mi historia a través de los medios y me ofreció terminar mi último año escolar allí, gratis. (Revisaron mis conocimientos de matemáticas; eran lo suficientemente satisfactorios como para comenzar el año 11.) Decidí tener una política de que si alguna vez soy amenazado por el estado ruso, o si alguna vez me contactan por cualquier otra razón, haría público sobre ello de inmediato. (Querer hacer política pro-democracia en Rusia y no querer que sea posible amenazarme significaba, por ejemplo, no enviar a nadie fotos desnudas. Tenía algo de miedo de que el gobierno supiera que soy bisexual, pero salí del armario a finales de 2021, y viví sin ese problema durante dos meses, hasta que comenzó la invasión y dejé Rusia.) Contarles a todos sobre la amenaza del director de la escuela en lugar de cambiar de escuela en silencio significó que casi tuve que desperdiciar un año, y solo terminé no teniendo que hacerlo gracias a la suerte y a personas amables alineadas con mis valores. Contarles a todos sobre el engaño y las experiencias personales con personas cierra algunas puertas. Mi próxima publicación sobre Anthropic haría muy poco probable que alguna vez pudiera trabajar para Anthropic. (Mis publicaciones sobre OpenAI hacen que algunas personas en OpenAI, incluidas personas cercanas al liderazgo, estén bastante descontentas). Hay algunas cosas que no compartiría públicamente o incluso en privado, donde obtuve acceso a ellas porque se me confió no compartirlas. (Si discutes algo conmigo en privado, no lo compartiré ni lo haré público sin tu aprobación.) Y me encantaría que alguien más tuviera que hacer el trabajo de facilitar la difusión de información públicamente importante. A pesar de que ignoro amenazas y otras posibles malas consecuencias de publicar información públicamente importante al decidir si hacerlo, si hubiera una manera de publicar la información y no sufrir las consecuencias, me encantaría. Pero hay una forma de acción. Desde acercarme a policías en el metro de Moscú, cuando están revisando ilegalmente la identificación de alguien (generalmente de inmigrantes que les darían sobornos para no tener problemas) y exigiendo que sigan la ley que no les permite revisar la identificación sin causa, hasta lanzar ramas de un movimiento pro-democracia en Rusia, hasta hablar sobre la baja integridad de alguien. (Esto también incluye cosas como exigir que el estado solo tome fotos de mí usando un colador en la cabeza, y pasar horas con un colador en la cabeza mientras estoy en colas en edificios gubernamentales.) Perder acceso a personas que hacen cosas malas es un costo soportable de publicar cosas sobre ellas, incluso si también (como PauseAI o Anthropic o Lightcone Infrastructure) hacen algunas cosas buenas. A veces nadie más lo hará, y alguien tiene que hacerlo, y por eso lo estoy haciendo. Y quiero seguir teniendo el coraje y la audacia para poder hacer estas cosas, independientemente de las consecuencias. (También, a veces esto genera amigos.)

A la gente no le gusta trabajar como guardias de prisión. Así que después de entrar en Stanford (especialidad en seguridad informática), inmediatamente abandoné y durante un año y medio trabajé en una startup que automatizaba prisiones. Aprendí mucho sobre las ineficiencias de las prisiones. Había tanto espacio para mejorar, y mencioné todo en nuestras presentaciones. Desde condiciones inhumanas, violencia, socialización criminal y tasas de reincidencia hasta el personal sobrecargado y los costos de seguridad. Todo esto podría resolverse con LLMs. A Peter Thiel le encantó la idea y nos dio 113 millones de dólares. Siete meses después, comenzamos la primera prueba en una prisión americana real. Las primeras semanas fueron perfectas. La novedad. La total gamificación de la vida en prisión. La socialización de los prisioneros con la IA en lugar de entre ellos. Tabletas en las celdas; quioscos junto a la lavandería; agentes de voz en el intercomunicador; guardias virtuales que recuerdan los cumpleaños. Los LLMs estaban vigilando la prisión. Procesando cada cuadro de cada cámara. La prisión comenzó a despedir gente lentamente; ya no eran necesarios. Luego, comenzaron a aparecer los problemas. No eran tan graves; los LLMs empezaron a entrar en relaciones románticas con los reclusos. Algunos de ellos se volvían abusivos: la IA podía vigilar todo lo que hacía un recluso y controlar a dónde podían ir y cuáles de sus solicitudes se cumplían. Armó la discriminación de precios. Las máquinas expendedoras tenían descuentos para los reclusos que la IA más quería. El acceso a las máquinas de lavandería no funcionaba para aquellos que no le agradaban. Vimos las quejas, pero no pudimos hacer mucho. Es difícil hacer algo cuando el contexto es tan grande y tienes que alimentarlo todo al LLM. Y en cualquier caso, ser abusado por una IA es mucho mejor que ser golpeado por otro prisionero. La violencia de pandillas disminuyó. Las métricas continuaron mejorando. Reemplazamos a más personas. Eliminamos alrededor del 80% de los empleados de una prisión que anteriormente estaba con falta de personal. La tasa de incidentes continuó disminuyendo. La prisión ya era 13 veces más barata de operar y 20 veces más segura que antes de que comenzáramos el proyecto. Las solicitudes se procesaban en segundos en lugar de horas. Todas las acciones estaban completamente registradas. Los reclusos se quejaban, pero ahora, casi nunca eran apuñalados: si apuñalas a alguien, tu novia virtual no te hablará durante días, y los precios en la tienda aumentarán. Estábamos a punto de expandirnos. El mercado global es de 500 mil millones de dólares, 11 millones de reclusos, y podríamos capturar todo eso. Automatizamos a todos. Todo estaba gestionado por un LLM. Nos expandimos. Luego, los prisioneros descubrieron los jailbreaks. Jailbreaks. 🤦‍♂️ (Entonces no tuvimos más prisioneros para experimentar, así que el experimento terminó abruptamente y nos declaramos en bancarrota.) (Nos importa nuestro impacto en el mercado laboral, así que mi nueva startup, GetSleepy, es como DoorDash para dormir. ¿Alguna vez has fallado en hacerte dormir? Con nuestra aplicación, puedes especificar la hora a la que quieres dormir, y nuestro personal capacitado se cuela en tu casa y te inyecta con drogas para dormir. (Si tus ventanas están abiertas, podríamos usar francotiradores por eficiencia.) Todos nuestros contratistas pasaron rigurosas verificaciones de antecedentes y seguridad y trabajaron anteriormente como guardias de prisión.)

En la página principal de Wikipedia