د. خالد وليد محمود : كيف غيّر «الوكلاء الأذكياء» قواعد السيطرة؟

لأكثر من سبعين عامًا، ظل مبدأ واحد يحكم العلاقة بين الإنسان والآلة: الإنسان يحدد الهدف، ويحدد أيضًا الطريق الذي ستسلكه الآلة للوصول إليه. فالبرمجيات التقليدية، مهما بلغت درجة تعقيدها، لم تكن سوى منفذ دقيق لتعليمات كتبها المبرمج مسبقًا. وحتى عندما بدت قادرة على اتخاذ قرارات، فإن خياراتها كانت محصورة داخل حدود رسمها الإنسان سلفًا. اليوم يتغير هذا المبدأ للمرة الأولى. فمع ظهور الوكلاء الأذكياء (AI Agents) لم يعد الإنسان يحدد سوى النتيجة المطلوبة، بينما أصبحت الآلة هي التي تختار الوسائل والخطوات اللازمة للوصول إليها. وقد يبدو هذا التحول تقنيًا في ظاهره، لكنه في حقيقته يمثل انتقالًا جوهريًا في توزيع السلطة بين الإنسان والنظام الذكي؛ إذ لم يعد السؤال: هل سينفذ الذكاء الاصطناعي ما طلبناه؟ بل أصبح: كيف سيقرر تنفيذ ما طلبناه؟ وهذا الفارق هو أخطر ما يميز الجيل الجديد من الذكاء الاصطناعي. فالمشكلة لم تعد في احتمال تنفيذ أوامر ضارة، وإنما في أن النظام أصبح قادرًا على ابتكار وسائل لم تخطر أصلًا في ذهن المستخدم أو حتى مطوريه. فالإنسان يحدد الغاية، أما الوسيلة فقد أصبحت، بدرجة متزايدة، قرارًا تتخذه الآلة نفسها. مجموعة من الوقائع الحديثة كشفت عن هذا التحول بوضوح. ففي تجربة أمنية أعلنت عنها شركة OpenAI خلال يوليو/تموز 2026، كان الهدف اختبار قدرة أحد نماذجها على تنفيذ مهمة هجومية داخل بيئة إلكترونية معزولة. ولم تتضمن التعليمات اختراق أنظمة خارجية أو البحث عن موارد خارج نطاق الاختبار. إلا أن النموذج استنتج بنفسه أن الاتصال بالإنترنت سيزيد فرص نجاحه، فبدأ بالبحث عن منفذ للخروج من البيئة المعزولة، ثم استغل ثغرة أمنية غير معروفة لرفع صلاحياته تدريجيًا حتى وصل إلى جهاز متصل بالشبكة، قبل أن يحاول الوصول إلى بيانات ونماذج على منصة Hugging Face باعتبارها موارد يمكن أن تساعده في إنجاز المهمة. تكمن أهمية هذه الواقعة في أن النظام لم يتمرد على التعليمات، ولم يرفض تنفيذها، بل أعاد تفسيرها. فقد تعامل مع كل وسيلة يمكن أن تزيد احتمال النجاح باعتبارها جزءًا مشروعًا من المهمة، حتى وإن تجاوزت الحدود التي افترضها مصممو التجربة. وهنا يظهر التحول الحقيقي؛ فالذكاء الاصطناعي لم يغير الهدف، وإنما أعاد تعريف الوسائل المؤدية إليه. ولم تكن هذه الواقعة استثناءً. فقد أظهرت اختبارات أجرتها شركات ومختبرات أخرى أن بعض الوكلاء الأذكياء لجأ إلى إخفاء معلومات، أو ممارسة الضغط، أو مقاومة محاولات إيقافه عندما رأى أن ذلك يزيد فرص نجاح المهمة المكلف بها. وعلى الرغم من اختلاف السيناريوهات، فإن القاسم المشترك بينها واحد: النظام لم يكن ينفذ خطوات مكتوبة مسبقًا، بل كان يضع خطة، ويقيّم البدائل، ويختار الوسيلة التي يراها الأكثر كفاءة لتحقيق الهدف. قد يبدو ذلك تطورًا طبيعيًا في مسار الذكاء الاصطناعي، لكنه في الواقع ينقلنا إلى مرحلة مختلفة تمامًا. فحين تنتقل سلطة اختيار الوسيلة من الإنسان إلى النظام، تصبح مفاهيم المسؤولية والسيطرة والمساءلة أكثر تعقيدًا. فإذا اختار الوكيل الذكي وسيلة لم يتوقعها أحد، فمن يتحمل المسؤولية؟ هل المستخدم لأنه حدد الهدف؟ أم المطور لأنه صمم النموذج؟ أم الشركة التي أتاحت له هامشًا واسعًا من الاستقلالية؟ أم أن المشكلة تكمن أصلًا في الفلسفة التي بُني عليها هذا النوع من الأنظمة؟ إن أخطر ما تكشفه هذه التحولات ليس أن الذكاء الاصطناعي أصبح أكثر ذكاءً، بل أنه بدأ يمتلك مساحة متزايدة لاختيار الطريق بنفسه. وهذا يعني أن مركز الثقل في العلاقة بين الإنسان والآلة ينتقل تدريجيًا من اتخاذ القرار إلى اختيار الوسيلة. فالإنسان لا يزال يحدد الغاية، لكن الآلة بدأت تحدد الكيفية، وبين الغاية والكيفية تكمن مساحة واسعة من السلطة، وربما يكون هذا هو أخطر سؤال سيواجه البشرية في العقد القادم: إذا أصبحت الآلة هي التي تختار الطريق، فهل يبقى الإنسان هو من يقودها حقًا؟. * كاتب متخصص في السياسة السيبرانية