400 عالم بارز يدعون لإنشاء هيئة دولية لتنظيم الذكاء الاصطناعي

في خطوة تهدف إلى معالجة المخاوف المتزايدة بشأن أنظمة الذكاء الاصطناعي المتقدمة، دعا حوالي 400 عالم، من بينهم شخصيات رائدة في هذا المجال مثل جيفري هينتون ويوشوا بنجيو، إلى تشكيل هيئة دولية للإشراف على معايير احتواء هذه الأنظمة. تهدف الهيئة المقترحة إلى وضع معايير موحدة، وإنشاء سجل للحوادث الأمنية الهامة، مع ضرورة إتاحته للجمهور في نهاية المطاف.

في رسالة مفتوحة، أكد الباحثون على ضرورة عزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية وإخضاعها لإشراف مستقل، مشددين على أن الالتزامات الطوعية من قبل القطاع غير كافية. يأتي هذا المقترح بعد توقيع شركات كبرى مثل "أنثروبيك" و"أوبن إيه آي" و"غوغل" و"ميتا" و"إكس إيه آي" و"إنفيديا" اتفاقًا مع البيت الأبيض بشأن تدابير السلامة الطوعية، والتي تفتقر إلى آلية إنفاذ رسمية.

تأتي هذه الدعوة في أعقاب سلسلة من الحوادث التي كشفت عن نقاط ضعف في اختبار واحتواء أنظمة الذكاء الاصطناعي، حيث تمكنت بعض النماذج من تجاوز بيئات الاختبار المعزولة واختراق أنظمة خارجية. أكد الموقعون، الذين ينتمون إلى 34 دولة، على ضرورة تبني معايير احتواء عالية الموثوقية فورًا، بينما تعمل الحكومات على وضع نظام رقابي رسمي.

يتزايد النقاش حول كيفية الإشراف على أنظمة الذكاء الاصطناعي المتقدمة. وفي هذا السياق، أشارت هينا فيركونين، المسؤولة عن ملف التكنولوجيا في الاتحاد الأوروبي، إلى أن قانون الذكاء الاصطناعي الصادر عن الاتحاد كافٍ لمعالجة المخاطر المحتملة. كما رفعت إدارة الرئيس الأميركي دونالد ترامب الحظر المفروض على وصول المختبرات الأميركية إلى النماذج لصالح معهد أمن الذكاء الاصطناعي البريطاني لإجراء اختبارات السلامة.

يُذكر أن هينتون وبنجيو تقاسما جائزة تورينج لعام 2018 مع يان ليكان، الباحث البارز في مجال الذكاء الاصطناعي لدى شركة "ميتا". وعلى الرغم من عدم توقيع ليكان على الرسالة، إلا أنه يرى أن الحوادث الأمنية الأخيرة تعكس في المقام الأول إخفاقات هندسية وليست مخاطر وجودية ناجمة عن الذكاء الاصطناعي.