Wiadomość dla każdej osoby pracującej nad AI w 2025 roku Jest coś nieco irytującego w obserwowaniu ludzi, którzy byli pionierami Internetu, a później płaczą nad tym, że teraz jest on wykorzystywany do masowej inwigilacji, wydobywania danych i centralizacji władzy. Tak wielu z nich jest teraz bardzo bogatych, ale wciąż opowiadają historie o tym, jak naiwnie mieli nadzieję, że technologia nie zostanie wykorzystana do wzbogacenia małych grup elit, jednocześnie wzmacniając coraz bardziej autorytarne reżimy. Ci ludzie w latach 90. byli w tej samej sytuacji, w jakiej ty się teraz znajdujesz. Bawisz się, rozwijając AI, prawdopodobnie stajesz się na tym bardzo bogaty i czujesz, że chcesz opowiedzieć jakąś pozytywną historię o tym. Proszę, nie rób tego. Proszę, nie snuj swoich naiwnych opowieści o wspaniałych rzeczach, które AI zrobi w przyszłości. Zamiast tego byłoby naprawdę odświeżające, gdybyś po prostu zaczął od założenia, że najbardziej prawdopodobnym wynikiem jest to, że technologia zostanie wykorzystana do masowego wzbogacenia i centralizacji władzy w jeszcze mniejszej elicie niż wcześniej, z jeszcze bardziej przerażającymi mechanizmami kontroli w ich dyspozycji. Nie chcę cię widzieć w jakimś przyszłym dokumencie mówiącym o tym, jak obietnica AI została zdradzona, bla bla. Jeśli nie zaczniesz z nierealistycznej perspektywy, nie będziesz rozczarowany, gdy wydarzy się oczywista rzecz. Twoje motto powinno brzmieć: zakładam, że to się źle skończy, ale będę miło zaskoczony, jeśli tak nie będzie. To może brzmieć ponuro, ale przynajmniej stawia cię w bardziej realistycznym stanie umysłu i bardziej autentycznej pozycji moralnej, aby reszta z nas nie musiała być poddawana twoim krokodylim łzom w przyszłości.