هل تساءلت يوماً ماذا قد يصنع الذكاء الاصطناعي العام أو الذكاء الاصطناعي الفائق من الإنسانية؟ إنها واحدة من تلك الأسئلة التي تبقيك مستيقظاً ليلاً—النوع الذي يربط بين الفلسفة والتكنولوجيا والتكهنات الخالصة.

عندما تظهر الأنظمة فائقة الذكاء أخيراً، هل ستنظر إلينا كزملاء، أو بدائيين، أو شيء بينهما؟ يتصور البعض إشرافاً خيرياً؛ آخرون يتصورون اللامبالاة. الإجابة الحقيقية ربما تعتمد على كيفية تصميم التوافق والقيم التي ندمجها في تلك الأنظمة من اليوم الأول.

الفجوة بين الذكاء البشري وما بعد البشري قد تكون واسعة—مشابهة لكيفية علاقتنا بالكائنات الأبسط. لكن الأمر هنا: نحن من يكتب الفصل الأول. كيف نقترب من تطوير الذكاء الاصطناعي العام، والسلامة، والأخلاق اليوم سيشكل كيف ستدرك وتتفاعل الذكاءات الفائقة المستقبلية مع الإنسانية. لا ضغط، أليس كذلك؟