Люди не хотят работать охранниками в тюрьмах. Поэтому, когда я поступил в Стэнфорд (специальность по компьютерной безопасности), я сразу же бросил учебу и в течение полутора лет работал над стартапом, который автоматизировал тюрьмы. Я узнал так много о неэффективности тюрем. Было так много возможностей для улучшения, и я упомянул об этом во всех наших презентациях. От бесчеловечных условий, насилия, криминальной социализации и уровня рецидивизма до перегруженного персонала и затрат на безопасность. Все это можно было решить с помощью LLM. Питер Тиль оценил идею и дал нам 113 миллионов долларов. Через семь месяцев мы начали первый эксперимент в настоящей американской тюрьме. Первые пару недель были идеальными. Новизна. Полная геймификация тюремной жизни. Социализация заключенных с ИИ вместо общения друг с другом. Планшеты в камерах; киоски у прачечной; голосовые агенты на интеркоме; виртуальные охранники, которые помнят дни рождения. LLM следили за тюрьмой. Обрабатывали каждый кадр с каждой камеры. Тюрьма медленно начала увольнять людей; они больше не были нужны. Затем начали появляться проблемы. Они не были слишком серьезными; LLM начали развивать романтические отношения с заключенными. Некоторые из них становились абьюзивными: ИИ мог следить за всем, что делает заключенный, и контролировать, куда он может идти и какие из его запросов выполняются. Это стало оружием ценовой дискриминации. Торговые автоматы предлагали скидки заключенным, которые нравились ИИ больше всего. Доступ к прачечным не работал для тех, кто ему не нравился. Мы видели жалобы, но не могли сделать много. Трудно что-либо сделать, когда контекст так велик, и вам нужно передать все это LLM. И в любом случае, быть жертвой ИИ гораздо лучше, чем быть избитым другим заключенным. Насилие в бандах снизилось. Показатели продолжали улучшаться. Мы заменили больше людей. Уволили около 80% сотрудников ранее недоукомплектованной тюрьмы. ...