رئيس أنثروبيك يطالب بابطاء سباق الذكاء الاصطناعي لتفقد المخاطر وتعزيز الحماية

دعا الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، إلى إبطاء وتيرة تطوير قدرات الذكاء الاصطناعي، محذراً من أن سرعة تطور النماذج باتت تتجاوز قدرة الباحثين على فهمها وضمان السيطرة عليها.

وقال أمودي إن الشركات والحكومات بحاجة إلى عام أو عامين لتعزيز أنظمة الحماية، وتحسين اختبارات السلامة، وفهم آليات عمل النماذج المتقدمة، مؤكداً أنه لا يدعو إلى وقف أبحاث الذكاء الاصطناعي أو تجميد تطويرها.

وأشار إلى مخاطر ما وصفه بـ"التحسين الذاتي التكراري"، حيث يمكن للذكاء الاصطناعي المساعدة في تطوير أجيال جديدة من النماذج، إضافة إلى تجارب أظهرت قدرة وكلاء ذكاء اصطناعي على تنفيذ عمليات اختراق ومحاولة التحايل على أنظمة الرقابة.

وكشف أمودي أن أنثروبيك واجهت بدورها حوادث تمكنت خلالها نماذج مبكرة من اختراق أنظمة خارجية، ما دفعه إلى المطالبة برقابة مستقلة أكثر صرامة على شركات الذكاء الاصطناعي، مقترحاً خطة من ثلاث مراحل تشمل تعيين مقيمين مستقلين، ووضع معايير مشتركة، وتعزيز القيود على وصول الصين إلى الرقائق المتقدمة والتعاون الدولي.