Folk vill inte jobba som fångvaktare. Så när jag kom in på Stanford (datasäkerhet) hoppade jag omedelbart av och i ett och ett halvt år arbetade jag på ett nystartat företag som automatiserade fängelser. Jag lärde mig så mycket om ineffektivitet i fängelser. Det fanns så mycket utrymme för förbättringar, och jag nämnde allt detta i våra pitch decks. Från omänskliga förhållanden, våld, kriminell socialisering och återfallsfrekvens till överarbetade personal- och säkerhetskostnader. Allt detta kan lösas med LLM:er. Peter Thiel älskade idén och gav oss 113 miljoner dollar. Sju månader senare inledde vi den första rättegången i ett riktigt amerikanskt fängelse. De första veckorna var perfekta. Nyhetens behag. Den totala spelifieringen av fängelselivet. Socialisering av fångar med AI istället för varandra. Tabletter i celler; kiosker vid tvättstuga; röstagenter på intercom; Virtuella vakter som kommer ihåg födelsedagar. LLM:er vakade över fängelset. Bearbetar varje bildruta från varje kamera. Fängelset började långsamt avskeda folk; De behövdes inte längre. Sedan började problemen dyka upp. De var inte så dåliga; LLM:er började hamna i en spiral av romantiska relationer med de intagna. En del av dem höll på att bli våldsamma: den artificiella intelligensen kunde övervaka allt en fånge gör och kontrollera vart de kan gå och vilka av deras önskemål som uppfylls. Det gjorde prisdiskrimineringen till ett vapen. Automaterna hade rabatter för de intagna som AI gillade mest. Tillgången till tvättmaskiner fungerade inte för dem man ogillade. Vi såg klagomålen, men kunde inte göra så mycket. Det är svårt att göra något när kontexten är så stor, och du måste mata in allt till LLM. Och i vilket fall som helst är det mycket bättre att bli misshandlad av en AI än att bli misshandlad av en annan fånge. Gängvåldet minskade. Mätvärdena fortsatte att förbättras. Vi bytte ut fler personer. Gjorde sig av med ca 80% av de anställda på ett tidigare underbemannat fängelse. ...