باحث في Anthropic يقدّر مخاطر الذكاء الاصطناعي الوجودية بأكثر من 10%

قال إيفان هوبينغر، أحد كبار باحثي السلامة في شركة «Anthropic»، إنه يقدّر احتمال أن يؤدي تطور الذكاء الاصطناعي إلى تهديد وجودي للبشرية خلال العقد المقبل بأكثر من 10 بالمئة.

وأوضح في منشور على منصة «X» أن النماذج الحالية لا تمثل، في رأيه، خطراً مرتفعاً، لكنه يخشى وصول الأنظمة قريباً إلى قدرة تحسين نفسها واكتساب نفوذ وموارد حقيقية. ولم يقدم مساراً تفصيلياً يثبت كيفية تحقق السيناريو الذي حذر منه.

وجاءت تصريحاته رداً على الباحث السابق في Anthropic وOpenAI جاكوب كوكسون، الذي انتقد الشركتين واتهمهما بعدم التحرك بمسؤولية كافية مع اقتراب الأنظمة من قدرات متقدمة في الاختراق والتأثير.

في المقابل، شككت عالمة الحاسوب ويندي هول، المستشارة السابقة للأمم المتحدة، في طبيعة هذه التحذيرات، وقالت إنها قد تُستخدم أيضاً كأداة تسويقية قبل طرح الشركات للاكتتاب. وبذلك يبقى رقم 10 بالمئة تقديراً شخصياً لا نتيجة علمية متفقاً عليها.

وتتزامن المناقشة مع دعوات إلى اتفاق دولي ينظم تطوير الأنظمة شديدة القدرة. وتشير تقارير سلامة صادرة عن شركات الذكاء الاصطناعي إلى أن المخاطر الكارثية الحالية منخفضة، لكنها تقر بصعوبة التنبؤ بسلوك النماذج المستقبلية وبالحاجة إلى اختبارات ورقابة أقوى.