يجب ألا يكون للذكاء الفائق سيد

تخيل عالمًا يتمتع فيه الجميع تقريبًا بإمكانية الوصول إلى ذكاء أكثر قدرة من أفضل طبيب، أو مدرس، أو مبرمج، أو محام، أو عالم، أو استراتيجي يمكن أن يتحملوا تكاليفه على الإطلاق. يساعد الطفل على التعلم بلغته الخاصة. إنه يوفر إمكانات تجارية صغيرة كانت محفوظة في السابق للشركات المتعددة الجنسيات. فهو يعمل على تسريع الاكتشافات الطبية، وترجمة المعرفة عبر الحدود، ويسمح للأشخاص العاديين بإنشاء المشكلات وتنظيمها وحلها بسرعة غير عادية. تخيل الآن أن نفس الذكاء يخضع لسيطرة عدد قليل من المؤسسات. إنهم يقررون ما قد يقوله، وما قد يعرفه، ومن يخدم مصالحه، وما هي الدول التي يمكنه الوصول إليه، وكم يكلف، وماذا يحدث للبيانات التي يجمعها، والعمال الذين يحل محلهم، وكيف يتم توزيع الثروة التي يخلقها. قد يكون الذكاء وافرًا. لن تكون هناك قوة. هذا هو التناقض الكامن في قلب الجدل حول الذكاء الفائق. نستمر في مناقشة الذكاء الاصطناعي المتقدم كما لو كان سؤالًا هندسيًا في المقام الأول. إلى أي مدى ستصبح قادرة على ذلك؟ متى سيصل؟ هل سيعقل أم يخدع أم يخترع أم يتلاعب أم يهرب؟ هل يعالج المرض، أو ينهي الندرة، أو يزيح العمال، أو يهدد الحضارة؟ هذه الأسئلة مهمة. ولكن تحتها يكمن سؤال سياسي أكثر أهمية: من سيتحكم في الذكاء نفسه؟ يعد أحد المعسكرين بالذكاء الشخصي الفائق في نظارات الجميع، وهواتفهم، ومنازلهم، وجيوبهم. ووعد آخر بقدرات معرفية رخيصة وشاملة مثل الكهرباء. ويرى ثلث أن السباق الجيوسياسي والصناعي يجب الفوز به من خلال التعبئة الوطنية غير العادية. ويرى رابع أن الأنظمة الحدودية يجب أن تظل خلف ضوابط أمنية متزايدة التعقيد. ويريد خامس أن يتوقف التطوير حتى يصبح من الممكن إثبات أن الذكاء الفائق آمن، ويمكن السيطرة عليه، وشرعي ديمقراطيا. يتم تقديم هذه المواقف عادةً على أنها فلسفات تقنية. كما أنهما دساتير متنافسة من أجل المستقبل. يتساءلون من سيمتلك الآلات التي قد تتفوق في الأداء على أفضل العلماء والمهندسين ورجال الأعمال والاستراتيجيين والمؤسسات في البشرية. إنهم يتساءلون من سيقرر ما قد تفعله هذه الآلات، ومن سيتبع قيمه، ومن سيحصل على مكاسبها الاقتصادية، ومن سيتحمل العواقب عندما تفشل. إجابتي بسيطة: مفتوحة عند الحافة. محروسة عند الحدود. مشتركة في الجانب العلوي. إنسان في المركز. ينبغي أن يكون الذكاء الاصطناعي العادي والمفيد على نطاق واسع ميسور التكلفة وقابلاً للتشغيل البيني وتنافسيًا ومتعدد اللغات ومتاحًا على نطاق واسع. يجب أن تتطلب القدرات التي يمكن أن تسبب ضررًا كارثيًا أو لا رجعة فيه تقييمًا مستقلاً، ونشرًا خاضعًا للرقابة…