لماذا قرر جيفري هينتون أنه يجب أن “ينفخ الصافرة” على التكنولوجيا

نيويورك (سي إن إن) جيفري هينتون ، المعروف أيضًا باسم “الأب الروحي للذكاء الاصطناعي، “قرر أنه كان عليه أن” ينفخ صافرة “على التكنولوجيا التي ساعد في تطويرها بعد القلق بشأن مدى ذكاءها ، كما قال لشبكة CNN يوم الثلاثاء.

قال هينتون لمراسل CNN جيك تابر في مقابلة يوم الثلاثاء: “أنا مجرد عالم أدرك فجأة أن هذه الأشياء تزداد ذكاءً منا”. “أريد أن أطلق صافرة نوعا ما وأقول إننا يجب أن نقلق بجدية بشأن كيفية منع هذه الأشياء من السيطرة علينا.”

عمل هينتون الرائد في الشبكات العصبية على تشكيل أنظمة الذكاء الاصطناعي التي تعمل على تشغيل العديد من منتجات اليوم. يوم الإثنين ، احتل عناوين الصحف لترك منصبه في Google ، حيث عمل لمدة عشر سنوات ، من أجل التحدث بصراحة عن مخاوفه المتزايدة بشأن التكنولوجيا.

في مقابلة يوم الاثنين مع نيويورك تايمزقال هينتون ، الذي كان أول من أبلغ عن خطوته ، أنه قلق بشأن قدرة الذكاء الاصطناعي على إلغاء الوظائف وخلق عالم “لن يتمكن فيه الكثيرون من معرفة ما هو صحيح بعد الآن.” كما أشار إلى الوتيرة المذهلة للتقدم ، والتي تفوق بكثير ما توقعه هو وآخرون.

قال هينتون لـ Tapper: “إذا أصبح الأمر أكثر ذكاءً منا ، فسيكون جيدًا جدًا في التلاعب لأنه سيكون قد تعلم ذلك منا ، وهناك أمثلة قليلة جدًا على شيء أكثر ذكاءً يتحكم فيه شيء أقل ذكاءً”. يوم الثلاثاء.

“إنها تعرف كيفية البرمجة ، لذا فهي ستكتشف طرقًا للالتفاف حول القيود التي نضعها عليها. وستكتشف طرقًا للتلاعب بالناس ليفعلوا ما يريدون.”

هينتون ليس القائد التكنولوجي الوحيد الذي تحدث بصراحة عن مخاوفه بشأن الذكاء الاصطناعي. وقع عدد من أعضاء المجتمع أ رسالة في مارس مطالبة مختبرات الذكاء الاصطناعي بوقف تدريب أقوى أنظمة الذكاء الاصطناعي لمدة ستة أشهر على الأقل ، مشيرة إلى “المخاطر العميقة على المجتمع والإنسانية”.

الرسالة، نشرت من معهد Future of Life ، وهي مؤسسة غير ربحية المدعومة بواسطة Elon Musk ، بعد أسبوعين فقط من OpenAI أعلن GPT-4 ، إصدار أكثر قوة من التكنولوجيا التي تدعم chatbot الفيروسي ChatGPT. في الاختبارات المبكرة والعرض التوضيحي للشركة ، تم استخدام GPT-4 لصياغة الدعاوى القضائية واجتياز الاختبارات الموحدة وإنشاء موقع ويب عملي من رسم مرسوم يدويًا.

وظهر ستيف وزنياك ، المؤسس المشارك لشركة آبل ، والذي كان أحد الموقعين على الرسالة ، على قناة “CNN This Morning” يوم الثلاثاء ، مرددًا مخاوف بشأن قدرتها على نشر معلومات مضللة.

وقال وزنياك لشبكة سي إن إن: “الخداع سيكون أسهل بكثير لأولئك الذين يريدون خداعك”. “نحن لا نجري أي تغييرات في هذا الصدد – نحن نفترض فقط أن القوانين التي لدينا ستهتم بها.”

وقال وزنياك أيضا أنه ربما تكون هناك حاجة إلى “نوع من التنظيم”.

من جانبه ، قال هينتون لشبكة CNN إنه لم يوقع على العريضة. وقال “لا أعتقد أنه يمكننا وقف التقدم”. “لم أوقع العريضة التي تنص على أنه يجب علينا التوقف عن العمل على الذكاء الاصطناعي لأنه إذا توقف الناس في أمريكا ، فإن الناس في الصين لن يفعلوا ذلك.”

لكنه اعترف بعدم وجود إجابة واضحة عما يجب فعله بدلاً من ذلك.

قال هينتون لـ Tapper: “ليس من الواضح بالنسبة لي أنه يمكننا حل هذه المشكلة”. “أعتقد أنه يجب علينا بذل جهد كبير في التفكير في طرق لحل المشكلة. ليس لدي حل في الوقت الحالي.”