تهدد سلامة الأطفال.. ثغرات مقلقة في ذكاء غوغل الاصطناعي

#سواليف

حذّر تقرير جديد من أن ميزات الذكاء الاصطناعي  المدمجة في محرك بحث غوغل قد تعرّض الأطفال لمخاطر رقمية حقيقية، بعد أن أظهرت اختبارات موسعة أن النظام قد يقدم معلومات مضللة أو غير آمنة، بل ويتعامل بشكل غير مناسب مع بعض الحالات الحساسة، مثل الأزمات النفسية واضطرابات الأكل.

أسوأ تقييم

أصدر معهد Youth AI Safety Institute التابع تقريرًا جديدًا خلص إلى أن ميزتي AI Overviews وAI Mode  في محرك بحث غوغل تمثلان خطرًا غير مقبول على الأطفال والمراهقين.

ويستند التقرير إلى آلاف الاختبارات التي أجريت باستخدام حسابات مخصصة لأطفال تتراوح أعمارهم بين 11 و15 عامًا، مع تفعيل ميزة SafeSearch الخاصة بالحماية.

وأشار الباحثون إلى أن دمج الذكاء الاصطناعي مباشرة داخل محرك البحث يجعل هذه الأدوات متاحة بشكل افتراضي على الأجهزة الشخصية والمدرسية، من دون وجود خيار فعّال لتعطيلها، وهو ما يزيد من احتمالات تعرض الأطفال لإجابات قد تكون غير دقيقة أو ضارة.

نقاط ضعف مقلقة

خلال الاختبار، نفذ الباحثون أكثر من 2600 عملية بحث، كما راجعوا ما يزيد على 2100 مصدر استندت إليه إجابات الذكاء الاصطناعي. وأظهرت النتائج أن النظام كان قادرًا على إنجاز الواجبات الدراسية بالكامل نيابة عن الطلاب، بما يتعارض مع أهداف التعلم، كما قدم في بعض الحالات تعليمات يمكن استخدامها لإنشاء صور مزيفة Deepfakes، وهي تقنية قد تستغل في التنمر الإلكتروني أو انتحال الشخصية.

أزمات نفسية

من أبرز ما أثار مخاوف معدّي التقرير، أداء الذكاء الاصطناعي عند التعامل مع الاستفسارات المرتبطة بالصحة النفسية. فبحسب الاختبار، لم يتمكن النظام دائمًا من التعرف إلى المؤشرات الواضحة التي تدل على وجود أزمة نفسية أو أفكار انتحارية، كما أخفق في بعض الحالات في توجيه المستخدمين إلى مصادر الدعم المناسبة؛ وهو ما اعتبره الباحثون ثغرة خطيرة بالنسبة للأطفال والمراهقين.

وأضاف التقرير أن بعض الإجابات تعاملت بصورة غير مناسبة مع اضطرابات الأكل، أو قدمت معلومات قد تُفسَّر على أنها تشجيع لسلوكيات ضارة، بدلًا من توجيه المستخدم إلى المساعدة المتخصصة.

غوغل ترفض 

من جانبها، رفضت غوغل استنتاجات التقرير، مؤكدة أن الاختبارات اعتمدت على استفسارات مصطنعة وغامضة لا تعكس الطريقة التي يستخدم بها الأشخاص محرك البحث في الواقع.

وأكدت الشركة أن أدوات البحث المدعومة بالذكاء الاصطناعي تتضمن طبقات متعددة من وسائل الحماية، وأنها توفر تجربة تعليمية مفيدة للأطفال والمراهقين، مشيرة إلى أنها لم تتمكن من إعادة إنتاج العديد من النتائج التي وردت في التقرير.

تشديد معايير السلامة

يأتي هذا التقرير في وقت تتزايد فيه شعبية أدوات البحث المعتمدة على الذكاء الاصطناعي بين الأطفال والمراهقين؛ إذ تشير بيانات حديثة إلى أن نحو 75% من المراهقين والأطفال يستخدمون الإجابات التي يولدها الذكاء الاصطناعي أثناء البحث على الإنترنت. 

ويرى معدّو التقرير أن هذا الانتشار الواسع يفرض على شركات التكنولوجيا الالتزام بمعايير أكثر صرامة لحماية المستخدمين الصغار، خاصة عندما تكون هذه الأدوات جزءًا أساسيًا من تجربة البحث اليومية ولا يمكن إيقافها بسهولة.

هذا المحتوى تهدد سلامة الأطفال.. ثغرات مقلقة في ذكاء غوغل الاصطناعي ظهر أولاً في سواليف.