"روبلوكس" تعتمد الذكاء الاصطناعي لمراقبة المحتوى لحظيًا

في خطوة جديدة لتعزيز الأمان، أعلنت منصة "روبلوكس" عن إطلاق نظام رقابة متطور يعتمد على الذكاء الاصطناعي، قادر على رصد المحتوى المخالف داخل الألعاب في الوقت الفعلي، قبل أن يصل إلى المستخدمين. رقابة شاملة بدلًا من الفحص الفردي يعتمد النظام الجديد على تحليل متعدد الوسائط، حيث لا يقتصر على فحص عنصر واحد فقط، بل يقوم بتقييم المشهد الكامل داخل اللعبة، بما يشمل الشخصيات (Avatars)، النصوص، والعناصر ثلاثية الأبعاد. هذا النهج يتيح اكتشاف المخالفات التي قد تمر دون ملاحظة في الأنظمة التقليدية، مثل الرسومات أو الرموز المسيئة التي لا يمكن رصدها عند تحليل كل عنصر بشكل منفصل، بحسب تقرير نشره موقع "digitaltrends" واطلعت عليه "العربية Business". إغلاق الخوادم المخالفة بدلًا من اللعبة بالكامل وفي حال رصد انتهاكات متكررة داخل جلسة لعب معينة، يقوم النظام بإغلاق الخادم (Server) المخالف فقط، دون التأثير على اللعبة بالكامل. ومنذ إطلاق الميزة، يتم إيقاف نحو 5 آلاف خادم يوميًا بسبب محتوى مخالف. كما تعمل "روبلوكس" على توسيع نطاق النظام ليغطي 100% من وقت اللعب، مع تطوير أدوات إضافية تستهدف حظر المستخدمين المخالفين بشكل فردي دون الإضرار ببقية اللاعبين. أدوات جديدة لصناع المحتوى لم تغفل المنصة مطوري الألعاب، إذ أضافت لوحة تحكم جديدة تتيح لهم متابعة عدد الخوادم التي تم إغلاقها يوميًا بسبب سلوك المستخدمين. ويمكن أن تساعد هذه البيانات في اكتشاف المشكلات مبكرًا، مثل إساءة استخدام أدوات داخل اللعبة، واتخاذ إجراءات وقائية قبل تفاقمها. مبادرة لتنظيم بيئات الألعاب بالتوازي، تتعاون "روبلوكس" مع شركات مثل "Keyword Studios" و"Riot Games" لإطلاق برنامج تدريبي جديد يهدف إلى تأهيل مديري المجتمعات الرقمية، ووضع معايير موحدة لإدارة المحتوى داخل الألعاب. ويشرف على الجانب البحثي من المبادرة خبراء متخصصون، في محاولة لسد فجوة طالما عانت منها صناعة الألعاب في مجال إدارة المجتمعات الرقمية. تعكس هذه الخطوة توجهًا متزايدًا نحو استخدام الذكاء الاصطناعي ليس فقط لتحسين التجربة، بل لحماية المستخدمين بشكل استباقي، خاصة في بيئات الألعاب التي يصعب التحكم فيها يدويًا.