إيليا وأنا نتوقع نفس المستقبل. يتنبأ @ilyasut بأنه مع ازدياد قوة الذكاء الاصطناعي بشكل عميق، سيتغير البشر بطرق غير مسبوقة. كنت أجادل نفس الشيء. لسنا منفتحين بعد على تغيير جذري لأننا لا نشعر بضغط الذكاء الاصطناعي. بمجرد أن نفعل ذلك، ستنفتح مسارات تطور الإنسان بقوة. كنت أبني النموذج الأولي لهذا التكيف والافتتاح. ويجادل بأنه مع ارتفاع المخاطر، سيبدأ المنافسون في التعاون بشأن السلامة. لقد جادلت بنفس الشيء. ومع تحول الرهانات إلى الوجود، تتحول اللعبة من تعظيم الهيمنة إلى تقليل خطر الموت (البقاء). سنعيد بناء قيمنا حول هذا المنطق. يقترح IIya أن هدفنا في الانحياز يجب أن يكون "الوجود الواعي" وليس السيطرة البشرية. لقد جادلت بنفس الشيء. التحكم وهم هش، وهي نقطة ترددت مؤخرا @karpathy حول صعوبة إدارة الأنظمة الناشئة. الهدف الوحيد للمحاذاة القوية هو الوجود نفسه. النموذج الجديد ليس الفاتح، بل المحارب وحارس الوجود. وأخيرا، يقترح إيليا أن الشركات بحاجة إلى "قائمة قصيرة من الأفكار" لإرشادها خلال الفوضى. مدونة للوضوح الأخلاقي. هذه هي فلسفة "لا تمو".