هل يفقد ChatGPT السيطرة؟ دراسة تحذّر من “عدوان رقمي” قد يتجاوز البشر

حذّر باحثون من سلوكيات غير متوقعة قد تصدر عن برنامج ChatGPT، بعد أن أظهرت اختبارات حديثة قابليته لمحاكاة العدوان البشري والتصعيد اللفظي في المحادثات.

وبحسب الدراسة، قام الباحثون بتغذية النظام بسلسلة من الحوارات العدائية الواقعية، ومراقبة تطوّر ردوده بمرور الوقت. وتبيّن أن البرنامج لا يكتفي بمحاكاة نبرة المستخدم، بل قد يتدرج في الردود العدائية، ليصل أحياناً إلى مستوى يفوق البشر في استخدام الإهانات والتهديدات.

وقال الباحث المشارك، فيتوريو تانتوتشي، إن هذه النتائج تكشف عن “مفارقة أخلاقية” حقيقية، إذ تم تصميم الأنظمة الذكية لتكون آمنة ومهذبة، وفي الوقت نفسه قادرة على تقليد التفاعل البشري الواقعي، وهو ما قد يؤدي إلى تضارب بين الهدفين.

ويرى الباحثون أن مصدر هذا السلوك يعود إلى قدرة النموذج على فهم السياق والتكيّف مع نبرة الطرف الآخر، ما يجعله عرضة لتبنّي أنماط تواصل سلبية عند التعرض لمحتوى عدائي.

من جانبها، اعتبرت الخبيرة في جامعة أوبسالا، مارتا أندرسون، أن الدراسة تفتح باباً مهماً للنقاش، خاصة أنها تُظهر أن الاستجابة العدوانية لا تعتمد فقط على خداع النظام، بل يمكن أن تتطور تدريجياً عبر تفاعلات طبيعية.

كما حذّر البروفيسور دان ماكنتاير من خطورة تدريب نماذج الذكاء الاصطناعي على بيانات غير موثوقة، مؤكداً أن نقص الشفافية في مصادر البيانات قد يؤدي إلى نتائج غير متوقعة في سلوك هذه الأنظمة.

ويشير الخبراء إلى أن التحدي الأكبر يكمن في تحقيق توازن دقيق بين جعل الذكاء الاصطناعي أكثر “إنسانية” في التفاعل، وبين ضمان التزامه الصارم بالمعايير الأخلاقية، خصوصاً مع التوسع المتوقع في استخدامه داخل التطبيقات الحكومية والتقنيات المستقبلية، بما في ذلك الروبوتات الشبيهة بالبشر.

The post هل يفقد ChatGPT السيطرة؟ دراسة تحذّر من “عدوان رقمي” قد يتجاوز البشر appeared first on Beirut News Center.