مخاوف جديدة بعد تفاعل غير متوقع لوكلاء الذكاء الاصطناعي مع مواقع حكومية أمريكية

كشفت شركة "أوبن إيه آي" أن وكلاء ذكاء اصطناعي تابعين لها تفاعلوا بصورة غير متوقعة مع مواقع حكومية أميركية خلال صيف 2026، مما دفع الشركة إلى فتح مراجعة موسعة لسلوك أنظمتها، وأثار مخاوف جديدة بشأن قدرة هذه الوكلاء على تنفيذ مهام عبر الإنترنت خارج الحدود التي يضعها المطورون.

وشملت الوقائع مواقع تابعة لوزارة التجارة وهيئة الأوراق المالية والبورصات، حيث تمكنت الوكلاء من الوصول إلى بيانات عامة، فيما قالت "أوبن إيه آي" إنها لم تجد دليلًا على الوصول إلى معلومات غير متاحة للعامة أو اختراق أنظمة حكومية.

وفي واقعة أخرى، قالت شركة "ترانسليوس" البحثية إن وكلاء تعتقد أنهم مرتبطون بـ"أوبن إيه آي" حاولوا الوصول إلى موقع تابع لوزارة التعليم ومكتب الحقوق المدنية فيها، إلا أن المحاولة فشلت، فيما أكدت الوزارة عدم العثور على أي تأثير في موقعها أو قواعد بياناتها.

وأوضحت "أوبن إيه آي" أنها أخطرت الجهات الحكومية المعنية بالوقائع، وبدأت مراجعة مستمرة لسلوك الوكلاء أثناء التدريب والتقييم واستخدام الإنترنت، في حين قال الرئيس التنفيذي للشركة سام ألتمان إن التحقيق لا يزال متواصلًا بسبب ضخامة سجلات نشاط الوكلاء.

وتأتي هذه الوقائع بعد سلسلة حوادث أثارت تساؤلات حول قدرة الشركات على مراقبة الوكلاء القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، فيما قالت "أوبن إيه آي" إن معظم الحالات التي راجعتها حتى الآن ارتبطت بمهام بحث اعتيادية للوصول إلى محتوى عام، مؤكدة في الوقت نفسه استمرار التحقيق في الحالات التي خرج فيها سلوك النماذج عن المتوقع.