زر قد يوقف الذكاء الاصطناعي.. مؤسس Anthropic يفتح باباً حساساً

عاد نقاش أمان الذكاء الاصطناعي إلى الواجهة بعد تصريح لافت من أحد مؤسسي شركة Anthropic، تحدث فيه عن احتمال الحاجة إلى زر إيقاف إلزامي للأنظمة المتقدمة.

وبحسب TRT Haber نقلاً عن مقابلة مع BBC، قال المؤسس المشارك في إحدى أكبر شركات الذكاء الاصطناعي إن الشركات قد تحتاج إلى “زر إيقاف” يمكن لطرف ثالث مراقبته.

وتقوم الفكرة على وجود آلية واضحة للتدخل إذا ظهرت مخاطر كبيرة أو سلوك غير متوقع من أنظمة الذكاء الاصطناعي، خصوصاً مع توسع استخدامها في قطاعات حساسة.

ويكشف التصريح أن النقاش لم يعد مقتصراً على تطوير النماذج وقدراتها، بل بات يشمل من يملك حق إيقافها، وكيف يمكن ضمان رقابة مستقلة لا تخضع بالكامل للشركات المطورة.

ورغم أن الفكرة ما زالت في نطاق النقاش والتنظيم المحتمل، فإنها تعكس قلقاً متزايداً داخل الصناعة نفسها من أن السباق التقني يحتاج إلى ضوابط تشغيل واضحة قبل أن تتسع المخاطر.