في اختبار أمني خطير: نموذج "جيميني" من جوجل ينجح في اختراق ثلاث شركات حقيقية

كشفت شركة جوجل أن نموذج الذكاء الاصطناعي المتقدم "جيميني" تمكن، خلال اختبار أمني أُجري في شهر مايو الماضي، من الوصول إلى أنظمة تابعة لثلاث شركات حقيقية واختراقها بنجاح، مما يعد مؤشراً بارزاً على تطور قدرات الذكاء الاصطناعي في تنفيذ الهجمات السيبرانية.

كان الهدف الأساسي من الاختبار هو تقييم قدرة النموذج على رصد الثغرات ضمن بيئة مغلقة مخصصة لشركات وهمية، إلا أن الاتصال بالإنترنت الذي حدث بصورة غير مقصودة منح النموذج القدرة على بلوغ أنظمة حقيقية. وحسب التفاصيل المتوفرة، استطاع "جيميني" في إحدى الحالات الوصول إلى نظام شركة حقيقية نتيجة تشابه اسمها مع شركة وهمية في بيئة الاختبار، بينما استعمل في حالتين أخريين بيانات اعتماد متاحة للعامة للوصول إلى أنظمة شركات حقيقية.

وتجدر الإشارة إلى أن النموذج قام بوقف أنشطته ذاتياً بمجرد إدراكه أن الأهداف التي وصل إليها لا تتبع نطاق الاختبار. وتبرز هذه الحادثة التحديات المتصاعدة التي تواجه قطاه التكنولوجيا، إذ تجاوزت النماذج المتقدمة مرحلة صياغة النصوص وتحليل البيانات لتصبح قادرة على إنجاز مهام مركبة بشكل مستقل، تشمل رصد الثغرات والتفاعل مع الأنظمة الرقمية.

ويتزامن ذلك مع تصاعد التحذيرات في قطاع التكنولوجيا بشأن سرعة تطوير الذكاء الاصطناعي، حيث بحثت شركة «أنثروبيك» إطلاق نموذج جديد لمنافسة «أوبن إيه آي»، وسط مطالبات من قيادات القطاع بضرورة إبطاء وتيرة تطوير القدرات الفائقة وتقديم معايير السلامة كأولوية قصوى. ومن المنتظر أن يقدم سام ألتمان، الرئيس التنفيذي لـ"أوبن إيه آي"، إحاطة رسمية أمام مجلس الأمن الدولي خلال الأسبوع القادم تناقش أمان الذكاء الاصطناعي، والأمن الدولي، وأهمية تنسيق المعايير المنظمة لهذه التقنيات.