Effektive altruister som innser hvorfor «vi skal skape den mektigste AI-en, men det er greit fordi vi har kontrollen» var en dum strategi hele tiden Den eneste effektive «AI-sikkerhets»-strategien er å spre AI-kapasiteter for å forhindre maktkonsentrasjon e/acc vinner igjen

Jeg gikk nettopp inn døren etter jobb. Min fem år gamle sønn løp for å hilse på meg. "Hei pappa!" sa han begeistret. Da han skulle klemme meg, grep jeg tak i skuldrene hans og sa: «Bud, jeg tror du overvurderer verdien av menneskelige relasjoner. Jeg leste det i en Substack i dag. Alt er annerledes nå. Jeg mener – det var annerledes før, men det er veldig annerledes nå." Han blunket, mens han holdt fast i en plastdinosaur. Jeg kunne ikke tro det. Tilknytning til fysiske objekter i en post-digital æra. Jeg snudde ham forsiktig mot speilet i gangen. "Se," fortsatte jeg, "ser du den refleksjonen? Det er eldre maskinvare. Karbonbasert. Høy latenstid. Begrenset prosessorkraft." Da jeg sparket av meg skoene, kom min 3 år gamle datter løpende bort til meg med en tegning hun hadde laget i barnehagen i morges. Hun strålte. Strålende. "Se, pappa! Jeg lagde dette til deg!" Jeg kastet et blikk på det og forklarte at Nano Banana tok ut hele innsatsen hennes med ett slag. Jobbmulighetene hennes var håpløse hvis hun ikke forsto dette. "Kjære," sa jeg forsiktig og knelte ned, "denne fargestift-solen? Det er 2022. Nano Banana kan generere 100 000 følelsesmessig resonante soler før du er ferdig med å si 'primærfarger.' Du trenger API-tilgang." Hun spurte hva et API var. "Nettopp," sa jeg og reiste meg. Gråten begynte omtrent da. Veldig følelsesladet hjem. Forståelig. De hadde ikke lest *essayet.* Kona mi hørte barna gråte i foajeen og kom for å sjekke til oss. "Jeg forstår ikke hva som skjer her, men hvorfor setter vi oss ikke ned til middag og snakker om dette?" spurte hun. "Jeg lagde kyllingpaier!" "Middag? Ditt bidrag til en verden der Amex og Mastercard er på vei mot null innen 2028 er MIDDAG?!" Jeg begynte å le. "Eh, ja..." Jeg forklarte: «Matlaging er en aktivitet før Claude. Er du klar over at jeg kan vibekode en fungerende DoorDash-konkurrent på omtrent 8 minutter nå? Alt ligger der i Substacken." Mens barna fortsatte å hulke, så kona mi vantro på meg. "Ok, ok. Kanskje det ville tatt meg 15 minutter å sette opp en fungerende Doordash-konkurrent," innrømmet jeg. "Betalingsintegrasjon kan være irriterende." Hun spurte om jeg følte meg bra. "Bedre enn greit," sa jeg. "Jeg har sett veikartet. Jeg har lest Substacken." Jeg gestikulerte bredt mot huset: «Dette? Dette er et fremtidig datasenter. Klemmene? Foreldet. Tegningene? Automatiserbar. Kyllingpaiene? Forstyrret." Min kone krysset armene. "Du likte kyllingpaier før." "Det var før jeg kunne si noen hundre ord i minuttet," sa jeg.