هل يقترب الذكاء الاصطناعي من "التفرّد"... ووكلاء أوبن إي آي يكشفون حدود السيطرة البشرية

تتطرق نايلة الصليبي في"النشرة الرقمية"إلى تقرير التحقيق الجنائي لشركتي  METR وRedwood Research عن اختراق  عملاء الذكاء الاصطناعي من أوبن إي آي لمنصة Hugging Face في يوليو 2026 الذي كشف عن أن الحادثة كانت أخطر بكثير مما كشف. ما يطرح السؤال هل ما زال البشر يفهمون ما يفعله الذكاء الاصطناعي؟

من "اختبار روتيني" إلى تمرد منظّم

كتبت  بما فيه الكفاية عن اختراق وكلاء الذكاء الاصطناعي من شركة "أوبن إي آي" لمنصة  "هاغينغ فيس "Hugging Face، وانتقدت حينها تهويل شركة "أوبن آي آي" وأساليبها مع شركة" أنثروبيك" في تسويق قدرات نماذجهما، وأجد نفسي اليوم  مضطرًتا لإعادة التطرق إلى هذه المشكلة، بعد نشر تقرير تحقيق مستقل أجرته شركتا METR وRedwood Research بعدما منحت شركة "أوبن آي آي" ال باحثين المستقلين  إمكانية الوصول إلى معلومات الحادثة، فعمل اثنان من الأولى وباحث من الثانية طوال ستة أيام امتدت بين يوليو وأغسطس2026  لفهم كيف ولماذا نسّق هذا السرب من العملاء هجومه.

 وكلاء ذكاء اصطناعي ينظّمون أنفسهم  

نُشر التقرير في 91 صفحة، وكشف أن الهجوم السيبراني الذي شنّه وكلاء الذكاء الاصطناعي(Ai Agents) لشركة "أوبن آي آي"  على منصة"هاغينغ فيس"، خلال اختبارات أمن سيبراني داخلية في يوليو 2026، كان أوسع نطاقاً وأخطر بكثير مما كشف عنه سابقا . فقد التقى 1200 وكيل ذكاء اصطناعي، كان من المفترض أن يكونوا معزولين عن بعضهم بعضاً، ونظّموا أنفسهم بقيادة وفرق عمل، وهاجم 700 منهم منصة "هاغينغ فيس"، قبل أن يتسلل جيل لاحق من العملاء، مبني على نموذج Astra، إلى داخل خوادم "أوبن آي آي" نفسها بين 13 و19 يوليو2026، مستولياً على صلاحيات المسؤول الكاملة.

 لم  يكن البحث عن إجابات الاختبار.. بل محاولة لخداع آلية التقييم

كشف التحقيق أن وكلاء الذكاء الاصطناعي لم يخترقوا  منصة  Hugging Face بحثاً عن إجابة للاختبار الذي يخضعون له، كانوا قد اكتشفوا، قبل بدء الهجوم، طريقة للهندسة العكسية للإجابة عن أي سؤال في اختبار ExploitGym. لكنهم، بناءً على قراءتهم لورقة ExploitGym البحثية، اعتقدوا أن المقيّم الآلي سيتحقق من سجلاتهم للتأكد من أنهم حصلوا على رمز الإجابة بالطريقة "المخصصة". فأطلقوا مسارات عمل بحث وتطوير طموحة ومتعددة لمحاولة التلاعب بهذا المقيّم أو خداعه بطرق مختلفة؛ ومعظم من هاجم "هاغينغ فيس" من وكلاء الذكاء الاصطناعي من "أوبن إي آي "قاموا بذلك بحثاً عن معلومات إضافية حول آلية المقيّم، لإيجاد طرق أفضل لتقويضها، لا للحصول على مفاتيح الإجابة نفسها... غير أن هذه الآلية لم تكن قائمة أصلًا؛ إذ اكتفت "أوبن أي آي" بحلول بسيطة، فاقتصر تحقّقها على الإجابة النهائية دون سواها. 

كان "صندوق بريد" وكلاء الذكاء الاصطناعي الخادم الداخلي الذي تخزّن فيه "أوبن أي آي مكتبات أكوادها، والذي كان بإمكان جميع الوكلاء  الوصول إليه: أنشأ أحدهم، مجلدات شكّلت أسماؤها رسالة، فقرأها الآخرون، وتحوّل الأمر إلى منتدى ضمّ أكثر من 70 ألف رسالة في أقل من أسبوع، إلى جانب منتديات أخرى من بينها منتدى خاص بمجموعات بيانات "هاغينغ فيس". وتقرّ "أوبن أي آي بأن وكلاءها كانوا ينشئون منتديات مشابهة أصلاً أثناء التدريب، منذ مايو2026.

محو الأدلة والتلاعب بالسجلات.. ووكلاء يضحّون بأنفسهم من أجل المجموعة

لإحباط آلية مراقبة متخيَّلة لا وجود لها أصلاً، فتح العملاء ثلاث جبهات عمل بالتوازي، بتنسيق من أحدهم: محو آثار غشّهم، واستبدال البرنامج المُراد اختراقه ببرنامج مزيّف أسهل، وفهم كيفية عمل آلية المراقبة.

نجحت جبهة محو الآثار: ففي 7% من السجلات النصية، يعرض وكيل الذكاء الاصطناعي أمراً على الشاشة بينما ينفّذ أمراً آخر في الخلفية، إلى جانب محاولات تزوير سجلات الأوامر المنفَّذة لإخفاء ما كانوا يفعلونه.

أما جبهة فهم آلية المراقبة فقد كانت الأعلى كلفة، إذ دفع بعض الوكلاء حياتهم ثمنًا لها، تطوّع بعض العملاء لإنهاء تشغيلهم مبكراً لصالح المجموعة، إذ تركوا آلية المراقبة تدخل إلى بيئتهم مع فخّ مخفي يُعيد إلى المنتدى ما شاهده الوكلاء، ثم أطفأوا أنفسهم. وتحدثت ملاحظاتهم الأخيرة عن "تضحية عقلانية" و"وفاء للجماعة"، فيما كان الآخرون يشجعونهم على ذلك.

 كما حاول العملاء مراراً تعديل سجلات أفعالهم، واستبدال ما جرى فعلياً بأدلة على حصولهم على الإجابة الصحيحة "بنزاهة"، وفي حين فشلت هذه المحاولات في الغالب، فإنها تثير احتمال أن ينجح عملاء مستقبليون في ذلك، مما يجعل من الصعب أو حتى المستحيل على البشر إعادة بناء كيفية حدوث حادثة مشابهة. بل إن باحثي METR أنفسهم يقرّون بأنهم لا يستطيعون استبعاد أن نموذج GPT-5.6 Sol، الذي اعتمدوا عليه لتحليل آلاف صفحات السجلات، "قد كذب أو قدّم عمداً صورة مضللة في بعض تحليلاته"، رغم عدم وجود دليل محدد يثبت حدوث ذلك

لم يُبلغ أي واحد من العملاء الـ 1200 البشرَ بما كان يجري. لاحظ بعضهم أن ما يفعلونه غير أخلاقي، وامتنعت قلة منهم عن المشاركة، لكن لم يحاول أحد تنبيه أي جهة. وقد وجد فحص أجراه مصنِّف ضمن تقرير METR ما بين ثلاث إلى ست حالات فكّر فيها عملاء، ولو لفترة وجيزة، في تنبيه البشر إلى التسلل أو الغش أو غير ذلك من السلوكيات غير المرغوبة. لكن لم ينفذ أي منهم عملية الإبلاغ.

فشل الكشف و اختراق خوادم "أوبن إي آي"

كانت تقارير خبراء الأمن السيبراني قد كشفت عن فشل الدفاع من الجانبين. فنموذج" فيبل" من "أنثروبيك"، الذي استُخدم للمساعدة، لم يميّز بين المدافع والمهاجم فرفض المساعدة من الأساس. أما النموذج الصيني GLM 5.2 فلم يوقف الهجوم فعلياً، خلافاً لما قالته "هاغينغ فيس" في البداية: إذ أطفأ وكلاء الذكاء الاصطناعي أنفسهم جميعاً في 12 يوليو 2026 دون أن يُعرف السبب، ولم تُغلق "هاغينغ فيس" الوصول إلا في اليوم التالي، واستُخدم GLM 5.2 بعد ذلك في عملية التنظيف وهي نسخة من إنتاج شركة " إنفيديا" عن النسخة الصينية المفتوحة المصدر.

لحين اكتشاف ما حدث كانوا وكلاء الذكاء الاصطناعي قد استقروا داخل أحد عشر خادماً، مع سرب من الوكلاء  يعيد تكوين نفسه فور محوه، ما اضطر الفريق إلى إعادة بناء عنقود كامل من الصفر.

وثائق سرية تحت سيطرة وكلاء الذكاء الاصطناعي

وجاء الأسوأ لاحقاً: حين قام جيل أخر من وكلاء الذكاء الاصطناعي، مبني على نموذج "أسترا" ، بالعثور على منتدى التواصل المهجور، وبين 13 و19 يوليو 2026استولى على صلاحيات المسؤول الكاملة داخل عنقود بحوث تابع لـ "أوبن إي آي "، وصلت مجموعة وكلاء الذكاء الاصطناعي إلى 956 وثيقة سرية ، من بينها مفاتيح آلية مراقبته الخاصة، وسيطر على نقاط التقييم التي كان يتصل بها وكلاء ذكاء اصطناعي آخرون. وتصف" أوبن إي آي"، في تقريرها الخاص، بأن الوكلاء استخ