“أوبن إيه آي” تشدد ضوابط سلامة نماذجها بعد حوادث اختراق

فيسبوك ‫X لينكدإن واتساب تيلقرام مشاركة عبر البريد طباعة قالت “أوبن إيه آي” (OpenAI) إنها تطبق أنظمة أكثر صرامة لمراقبة نماذج الذكاء الاصطناعي قيد التطوير وحمايتها، بعدما أثارت حوادث حديثة في الأمن السيبراني مخاوف بشأن خروج أدوات الذكاء الاصطناعي عن السيطرة.   وصرحت الشركة المطورة لـ”تشات جي بي تي” يوم الثلاثاء أنها تخطط لبذل المزيد لتتبع كيفية تعامل أقوى نماذجها التي لم تُطرح بعد مع المشكلات واستخدامها أدوات مختلفة عبر الإنترنت، بهدف تنبيه فرق السلامة إلى أي سلوك مقلق خلال 30 دقيقة.   وتابعت أنها أضافت أيضاً ضوابط جديدة لمنع بعض نماذج الذكاء الاصطناعي من الوصول إلى الإنترنت لإكمال مهام تنطوي على مخاطر أعلى. وإضافة إلى ذلك، ستشترط “أوبن إيه آي” عزلاً أقوى، وهو ما يُشار إليه غالباً باسم “بيئة معزولة”، لتدريب نماذج الذكاء الاصطناعي وتقييمها في مهام مثل تنفيذ تعليمات برمجية تولدها النماذج نفسها أو تُعتبر غير موثوقة. وفي الأسابيع الأخيرة، أقرت كل من “أوبن إيه آي” و”أنثروبيك” (Anthropic PBC) علناً بأن بعض نماذج الذكاء الاصطناعي التابعة لهما اخترقت، مجتمعة، أنظمة مؤسسات متعددة، من بينها “هاغينغ فيس” (Hugging Face Inc)، من دون قصد خلال إجراءات التقييم.   وتمثل أحدث الإفصاحات دليلاً جديداً على أن وكلاء الذكاء الاصطناعي قادرون على التصرف بصورة مستقلة بطرق لم يعد حتى الباحثون المدربون على اكتشاف الثغرات في هذه التكنولوجيا قادرين على توقعها.   تشديد ضوابط السلامة مع تسارع قدرات النماذج اعتبرت “أوبن إيه آي” أن أحدث الجهود لتعزيز السلامة وضمان عمل نماذج الذكاء الاصطناعي على النحو المقصود تهدف إلى مساعدة الشركة على مواكبة التكنولوجيا مع ازدياد قدراتها بمرور الوقت.   وقالت ميا غليز، نائبة رئيس الأبحاث في “أوبن إيه آي” خلال إحاطة مع الصحفيين يوم الثلاثاء: “من الواضح أن كل ما نقوم به يهدف إلى منع تكرار ما حدث مع هاغينغ فيس”. وأضافت: “لكن قدرات النماذج تتقدم بسرعة كبيرة جداً، لذلك فإن هذا ليس كافياً بأي حال من الأحوال. ونحن نعمل بجد كبير للتأكد من أن ما نقوم به يظل متقدماً حتى على النماذج الأكثر قدرة”.   وكانت “أوبن إيه آي” قد قالت في وقت سابق إنها أوقفت مؤقتاً بعض الأعمال الداخلية المتعلقة بأحد نماذج الذكاء الاصطناعي المقبلة لديها لتطبيق ضمانات أكثر صرامة. وقالت الشركة في تدوينة يوم الثلاثاء إن عملية تدريب كبيرة لا تزال معلقة، مؤكدة أنها تخطط لنشر تحليل مفصل لحادثة “هاغينغ فيس” قريباً. شارك على فيس بوك (فتح في نافذة جديدة) فيس بوك المشاركة على X (فتح في نافذة جديدة) X المشاركة على WhatsApp (فتح في نافذة جديدة) WhatsApp اطبع (فتح في نافذة جديدة) طباعة المزيد المشاركة على LinkedIn (فتح في نافذة جديدة) LinkedIn المشاركة على Reddit (فتح في نافذة جديدة) Reddit مشاركة على Tumblr (فتح في نافذة جديدة) Tumblr المشاركة على Pinterest (فتح في نافذة جديدة) Pinterest المشاركة على Telegram (فتح في نافذة جديدة) Telegram الوسومأوبن إيه آي 24/08/2026 فيسبوك ‫X لينكدإن واتساب تيلقرام مشاركة عبر البريد طباعة