تقنيات ذكاء اصطناعي محاكية للأطفال لاختبار أمان روبوتات الدردشة

مع تحول الذكاء الاصطناعي من أداة للإجابة والبحث إلى أنظمة يتحدث معها الأطفال والمراهقون بصورة متكررة، تتزايد المخاوف بشأن قدرتها على فهم السياق النفسي واللغوي للمستخدمين الصغار والتعامل معهم بصورة آمنة.

وفي محاولة لاكتشاف نقاط الضعف قبل وصولها إلى المستخدمين، تعمل شركة "سيركيت بريكر لابز" الأمريكية على تطوير وكلاء برمجية تحاكي مستخدمين من أعمار وخلفيات ولغات وثقافات مختلفة، وتدخل في محادثات مع نماذج الذكاء الاصطناعي لاختبار أنظمة الحماية فيها.

وتقول الشركة إن وكلاءها قادرون على إجراء أكثر من 100 ألف تفاعل محاكى، تشمل اختبار اللغة العامية والأخطاء الإملائية والعبارات غير المباشرة والاختلافات الثقافية، بهدف رصد الحالات التي قد تفشل فيها أنظمة الذكاء الاصطناعي في التعامل مع المستخدمين.

وترى الشركة أن المخاطر لا تظهر بالضرورة في سؤال واحد واضح، وإنما قد تتشكل عبر سلسلة طويلة من المحادثات، فقد يستخدم الطفل أو المراهق تعبيرًا غامضًا أو عاميًا لا يبدو خطيرًا بمفرده، لكن تراكم السياق قد يكشف عن أزمة نفسية أو سلوك محفوف بالمخاطر.

وقال المؤسس المشارك والمدير التقني للشركة أرول نيغام إن بعض المستخدمين، خصوصًا الشباب، يلجؤون إلى أنظمة الذكاء الاصطناعي للحصول على الدعم، في وقت قد تواجه فيه النماذج صعوبة في فهم الفروق الدقيقة في كلامهم أو تتبع السياق الكامل للمحادثة.

بدورها، أوضحت الرئيسة التنفيذية للشركة شيرالي نيغام أن النموذج قد يتعامل بصورة جيدة مع اللغة القياسية، لكنه قد يتعثر أمام الاختصارات والعبارات العامية أو اللغة المشفرة التي يستخدمها بعض المراهقين.

وتتزامن هذه المخاوف مع تحذيرات منظمة الصحة العالمية من استخدام الذكاء الاصطناعي التوليدي للحصول على الدعم العاطفي، خصوصًا بين الشباب، ودعوتها إلى إدخال الصحة النفسية ضمن تقييمات تأثير أنظمة الذكاء الاصطناعي ومراقبة آثارها على المدى الطويل.

وتعتمد شركة "سيركيت بريكر لابز" على ما يعرف بـ"اختبار الفريق الأحمر" لاكتشاف نقاط الضعف، مستهدفة تطبيقات عالية الحساسية مثل أدوات التدريب والدعم النفسي.

وأظهرت بيانات منظمة "كومون سينس ميديا" أن 72% من المراهقين في الولايات المتحدة استخدموا رفقاء الذكاء الاصطناعي مرة واحدة على الأقل، فيما تحدث نحو ثلث المستخدمين معهم بشأن أمور مهمة أو خطيرة.

ومن جانبها، أفادت منظمة الأمم المتحدة للطفولة "يونيسيف" بأن ما لا يقل عن 20 مليون طفل استخدموا الذكاء الاصطناعي وفق بيانات جُمعت من 10 دول، مؤكدة أن سرعة انتشار هذه التقنيات تتجاوز قدرة الأطر الحالية على مواكبة المخاطر.