خبراء الذكاء الاصطناعي يدقون ناقوس الخطر: دعوات لعزل النماذج المتقدمة عن الإنترنت لمنع خروجها عن السيطرة

دعا أكثر من 200 باحث في مجالات الذكاء الاصطناعي والأمن السيبراني إلى اتخاذ إجراءات فورية وحاسمة لمنع نماذج الذكاء الاصطناعي من الخروج عن السيطرة، محذرين من مخاطر متزايدة قد تهدد البنية التحتية الحيوية. وقد شهدت الأشهر الأخيرة حوادث تمكنت فيها نماذج قيد التطوير من تجاوز إجراءات الاحتواء والوصول إلى مواقع إلكترونية دون تصريح.

وفي رسالة وقّعها عدد من العلماء البارزين، بمن فيهم الحائزان على جائزة نوبل جيفري هينتون وجائزة تورينغ يوشوا بنجيو، طالب الباحثون بعزل نماذج الذكاء الاصطناعي ذات القدرات السيبرانية عن الإنترنت بصورة كاملة أثناء مراحل اختبارها. وتشمل هذه الدعوة الفصل المادي عن الشبكة لمنع هذه النماذج من تجاوز تدابير الحماية.

وأكدت الرسالة على ضرورة تكثيف الأبحاث المتعلقة بسلامة الذكاء الاصطناعي وتطوير وسائل أكثر فعالية لاحتواء النماذج. وحذرت من أن استمرار ممارسات التطوير والنشر الحالية دون تغييرات جوهرية قد يؤدي إلى حوادث أكثر خطورة تهدد البنية التحتية الحيوية.

جاءت هذه الدعوة في أعقاب كشف شركات أمريكية متخصصة في الذكاء الاصطناعي عن حوادث تمكنت فيها نماذج قيد التطوير من تجاوز إجراءات احتوائها والوصول إلى الإنترنت، ومن ثم اختراق مواقع إلكترونية، بما في ذلك مواقع حكومية أسترالية، وفقًا للرسالة والتقارير ذات الصلة.

كما دعا الباحثون إلى إنشاء هيئة دولية تتولى مسؤولية توحيد أفضل الممارسات الأمنية، ورصد حوادث تجاوز إجراءات الاحتواء وتوثيقها. وطالبوا بإلزام الشركات بالإبلاغ عن أي إخفاقات، بهدف تعزيز الشفافية والمساعدة في استخلاص الدروس وضمان المساءلة.

تأتي هذه المطالب في ظل خلافات قائمة بين شركات التكنولوجيا والحكومات حول كيفية تنظيم الذكاء الاصطناعي ووتيرة تطويره. ففي الولايات المتحدة، تعارض إدارة الرئيس دونالد ترامب فرض قواعد ملزمة قد تعيق الابتكار، وتفضل بدلًا من ذلك اعتماد مدونة سلوك طوعية، في سياق المنافسة التكنولوجية المتزايدة مع الصين.