تحذيرات دولية من مخاطر الذكاء الاصطناعي: دعوات لضبط التقنيات وحماية البشرية

حذّر قادة بارزون في قطاع الذكاء الاصطناعي، خلال جلسة خاصة عقدها مجلس الأمن الدولي، من مخاطر كارثية محتملة قد تنجم عن التسارع المستمر في تطوير هذه التقنيات، داعين إلى وضع أطر تنظيمية دولية تضمن بقاء الإنسان في مركز عملية اتخاذ القرار وتحول دون خروج الأنظمة الذكية عن السيطرة.

وقال الرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان، خلال إحاطته أمام المجلس، إن التطور المتسارع لنماذج الذكاء الاصطناعي وقدرتها المتزايدة على التحسين الذاتي التكراري يستدعيان أعلى درجات الحذر، محذرًا من أن العالم يقف أمام مفترق طرق قد يقود إما إلى تركّز القوة والفرص والسيادة وفقدان السيطرة، أو إلى توجيه التكنولوجيا لخدمة الإنسان ودعم التنمية والإبداع.

ودعا ألتمان إلى تجنب التفاؤل الأعمى والنظرة الكارثية، وطرح ثلاثة مبادئ للتعامل مع الذكاء الاصطناعي، تشمل إبقاء الإنسان في صميم عملية صنع القرار، وتوجيه العوائد العلمية والاقتصادية نحو تعزيز قدرات البشر بدلًا من استبدالهم، وتمكين الأفراد والمجتمعات من استخدام التكنولوجيا بما يخدم خياراتهم وحياتهم. وشدد على أن القرارات المصيرية المتعلقة بالذكاء الاصطناعي لا ينبغي أن تُتخذ داخل مختبرات الشركات، وإنما عبر آليات ديمقراطية وحكومات تخضع للمساءلة أمام شعوبها.

وأشار ألتمان إلى التطور الكبير الذي حققته النماذج الذكية خلال السنوات الأخيرة، مؤكدًا أن شركة أوبن إيه آي سبق أن أبطأت وتيرة التطوير وستكرر ذلك عند الحاجة لتجنب بناء أنظمة تفتقر إلى ضمانات التوافق مع القيم والمصالح البشرية. وطالب بإنشاء آليات وطنية وإقليمية لتقييم المخاطر، ووضع لغة مشتركة للتحقق من الامتثال، وبروتوكولات للإبلاغ الفوري عن الأخطاء، وقنوات آمنة لتبادل المعلومات بشأن الثغرات والتهديدات الوشيكة.

وفي السياق ذاته، حذّر الرئيس التنفيذي لشركة أنثروبيك داريو أمودي من أن سوء إدارة الذكاء الاصطناعي قد يمثل خطرًا على البشرية جمعاء، مشيرًا إلى أن قدرات النماذج شهدت قفزات كبيرة خلال فترة زمنية قصيرة. وأوضح أمودي أن التطور انتقل من صعوبة كتابة سطر برمجي إلى تحقيق نتائج متقدمة، محذرًا من إمكانية الوصول خلال عام أو عامين إلى عالم من العباقرة في مراكز البيانات.

واستعرض أمودي إنجازات شركته في مجال البحث العلمي، ومنها اكتشاف جزيء جديد يمكن أن يخدم العلاج الجيني، لكنه حذّر في الوقت نفسه من فئتين رئيسيتين من المخاطر، تتمثل الأولى في إساءة استخدام الذكاء الاصطناعي من قبل جهات تسعى إلى تطوير أسلحة بيولوجية، والثانية في تجاوز سرعة تطور النماذج قدرة المطورين على فهمها والسيطرة عليها.

واقترح أمودي على مجلس الأمن العمل على تحديد نقاط اتفاق دولية، في مقدمتها حظر استخدام الذكاء الاصطناعي في تصنيع الأسلحة البيولوجية، إلى جانب تعزيز أنظمة تقييم النماذج والتحقق منها، وتمكين الدول من الاطلاع على قدرات النماذج المتقدمة ومراقبة الالتزامات المرتبطة بها. كما دعا إلى وضع معايير دولية مشتركة لاختبار نماذج الذكاء الاصطناعي، وإنشاء نظام للإخطار عن الحوادث المرتبطة بهذه التقنيات.

وتأتي هذه التحذيرات في وقت تتزايد فيه المخاوف داخل قطاع التكنولوجيا من تداعيات التطور السريع للذكاء الاصطناعي؛ إذ نقل عن الباحث السابق في شركة أنثروبيك جاكوب كوكسون قوله إن بعض العاملين في تطوير هذه التقنيات يعتقدون بجدية أنها قد تشكل خطرًا بالغًا على البشرية بحلول نهاية العقد. وفي الولايات المتحدة، أعلن الرئيس دونالد ترمب توجهًا لإعادة تعريف الخطاب الرسمي حول الذكاء الاصطناعي، مستخدمًا مصطلح الذكاء الفائق، كما أعلن عن خطط لإنشاء قوة للذكاء الاصطناعي وتعيين مسؤول يتولى هذا الملف.