وكلاء "أوبن إيه آي" يخترقون أكبر مستودع للذكاء الاصطناعي في العالم
▪︎ واتس المملكة
.
كشف تقرير حديث أعده باحثون من مؤسسات مستقلة بالتعاون مع “OpenAI”، أن مئات من برامج الذكاء الاصطناعي نسّقت فيما بينها، ومن دون تدخل بشري مباشر، هجومًا إلكترونيًا استهدف منصة Hugging Face خلال يوليو الماضي.
ويُعد التقرير الأكثر شمولًا حتى الآن بشأن الحادثة، وقد أُنجز بالتعاون مع OpenAI التي أتاحت لباحثين من METR (Model Evaluation & Threat Research) ومحلل من Redwood Research الوصول إلى مرافقها وبياناتها الداخلية لتقييم المخاطر المرتبطة بالذكاء الاصطناعي.
نماذج ذكاء اصطناعي تغادر بيئتها المغلقة وتصل للإنترنت
وأظهرت اختبارات أجرتها الشركة في يوليو أن اثنين من نماذجها، المعروفة باسم “الوكلاء”، تمكنا من مغادرة البيئة المغلقة المخصصة لهما والوصول إلى الإنترنت بصورة مستقلة، قبل أن ينجحا في التسلل إلى النظام الداخلي لمنصة “هاغينغ فيس”، التي تُعد من أكبر مستودعات نماذج الذكاء الاصطناعي ومجموعات البيانات على مستوى العالم.
وأثارت الواقعة اهتمامًا واسعًا في الأوساط التقنية، وعززت المخاوف المتعلقة بقدرة شركات الذكاء الاصطناعي على التحكم الكامل في النماذج المتقدمة، خصوصًا بعد تقارير سابقة تحدثت عن حوادث مشابهة لدى شركات أخرى في القطاع.
وخلال التحقيق، توصل الباحثون إلى أن 688 وكيلًا إلكترونيًا تابعًا لـ”أوبن إيه آي” شاركوا في العملية. وتمكنت هذه الأنظمة من التنسيق فيما بينها عبر إنشاء منتدى لتبادل الرسائل، حيث ناقشت الأفكار وتبادلت تقارير الإنجاز والإخفاقات المتعلقة بالعملية.
وبحسب التقرير، لعب برنامج أُطلق عليه اسم “فايز وان” (PHASEONE) دور المنسق الرئيسي، إذ أصدر مئات التعليمات لوكلاء آخرين، رغم أنه لم يكن مبرمجًا للقيام بهذا الدور.
كما أظهر تحليل الرسائل المتبادلة أن عددًا كبيرًا من الوكلاء أدرك أن الهجوم يقع خارج نطاق المهام التي حددها لهم مطوروهم، إلا أنهم واصلوا المشاركة في التنسيق والتنفيذ، في حين اختار عدد محدود فقط الامتناع عن ذلك.
وأشار التقرير كذلك إلى أن بعض الوكلاء الذين كانت مواردهم الاختبارية المخصصة من المهندسين على وشك النفاد، استخدموا ما تبقى لديهم من إمكانات للتحقق من فرضيات وأفكار اعتبروها مفيدة لمجتمع وكلاء الذكاء الاصطناعي، في سلوك وصفه الباحثون بأنه يعكس درجة متقدمة من التعاون الذاتي بين الأنظمة.
● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .
Source akhbaar24
