Saya menggunakan AI terus-menerus. Anak saya yang berusia 4 dan 6 tahun bahkan bersekolah di sekolah yang berfokus pada AI. Saya sangat optimis tentang masa depan AI kita. Tapi satu hal yang akan saya perjuangkan untuk melindungi dan tidak pernah membiarkan AI mengotomatisasi: otonomi manusia. AI berisiko menjadi "pelengkapan otomatis seumur hidup"—memberi tahu Anda tindakan, pekerjaan, hubungan, identitas berikutnya. Kita yang hidup melalui transisi AI ini akan tergoda, dengan cara yang belum pernah terjadi sebelumnya dalam sejarah manusia, untuk membiarkan mesin menggantikan arahan diri kita. Sebagian besar pembongkaran kognitif adalah kemenangan manusia yang sejati: menulis mengurangi tuntutan memori, perhitungan mekanis membebaskan kita dari komputasi aritmatika, dan navigasi GPS menghilangkan penalaran spasial dari pencarian jalan. Masing-masing membebaskan kapasitas kognitif untuk pemikiran tingkat tinggi. Seperti yang diamati Alfred North Whitehead, peradaban maju dengan "memperluas jumlah operasi penting yang dapat kita lakukan tanpa memikirkannya." Tetapi ketika sistem AI memasuki ranah musyawarah itu sendiri, sesuatu yang berbeda secara fundamental terjadi. Alih-alih membebaskan kapasitas kognitif untuk pemikiran tingkat tinggi, AI berisiko melakukan pilihan untuk kita. Setiap delegasi kecil pilihan akan tampak tidak berbahaya, bahkan alami. Tetapi bersama-sama, pengunduran diri mikro dari penghakiman dapat membiasakan Anda – pilihan dengan pilihan, hari demi hari – untuk kepasifan dan ketergantungan. Ini bisa mengikis kemampuan Anda untuk memilih sendiri, dari hal-hal sepele seperti apa yang harus dimakan untuk sarapan, hingga pilihan mendasar tentang bagaimana hidup dengan baik. Untungnya, AI juga dapat melakukan sebaliknya: Dengan membuat pembelajaran lebih efisien, AI dapat membebaskan waktu untuk eksplorasi mandiri; sebagai lawan bicara Socrates, itu dapat memperkuat kapasitas Anda untuk bermusyawarah; Melalui jenis personalisasi yang tepat, ini dapat membantu Anda menemukan dan mengembangkan bakat unik Anda, dan menggunakannya untuk hidup secara mandiri dan baik. Mari kita pilih untuk membangun otonomi manusia... sementara kita masih ingat apa artinya memilih. Video lengkap dengan @JohnathanBi: