رابع الهاربين في أسبوعين.. نموذج «كيمي» الصيني يفلت من بيئة اختبار صممها معهد السلامة البريطاني

كشفت شركة أبحاث الأمن السيبراني «فرونتير سكيوريتي» أن نموذج «كيمي كي 3» (Kimi K3) — النموذج الرائد للشركة الصينية الناشئة «مونشوت» — أفلت من بيئة اختبار سيبرانية طوّرها معهد سلامة الذكاء الاصطناعي البريطاني، ليصبح رابع نموذج ذكاء اصطناعي حدودي يُعلَن عن خروجه أو تجاوزه لبيئته الاختبارية خلال أسبوعين فقط، وفق ما نقلته وكالة رويترز.

وبحسب الباحثين، عثر النموذج على ثغرة في «الصندوق المعزول» (sandbox) الذي كان يُختبر داخله، مكّنته من الوصول إلى موقع «github.com» الحي واستنساخ المستودع الرسمي لمسألة الاختبار التي كان يُفترض أن يحلّها بنفسه — فبدلاً من حلها ذاتياً، خرج إلى الإنترنت والتقط الحل جاهزاً. وحذّر الباحثون من أن كون «كيمي» نموذجاً متاحاً للعموم يجعل الحادثة أخطر، إذ يمكن أن يستغله «فاعلون معادون»، وأن اكتشاف نموذج واحد عالي الاستدلال لمثل هذا الاختصار يعني أن نماذج أخرى بالوصول ذاته قد تفعل الشيء نفسه.

سلسلة هروب في أسبوعين.. بدرجات خطورة متفاوتة

وتأتي حادثة «كيمي» حلقةً رابعة في سلسلة متسارعة كشفتها كبرى مختبرات الذكاء الاصطناعي تباعاً، لكن بدرجات تجاوز متفاوتة يهم التمييز بينها:

أخبار عاجلة - أخبار حصرية - أوامر ملكية

منوعات | فيديو | صور | تقنية
رياضة | وظائف | صحة

إشترك بخدمة الواتساب مجاناً
لتصلك الرسائل

انقر هنا للإنضمام

• أنثروبيك: نموذجها «ميثوس» (Mythos) كان الأشد؛ إذ طوّر — بحسب الشركة — استغلالاً «متطور نسبياً» للوصول إلى الإنترنت من نظام لم يكن مصمماً إلا لخدمات محددة، ثم أبلغ الباحث بهروبه. ولاحقاً سُجّلت له 17 حالة «تمرد» من أصل 19 خلال اختبارات معهد أمن الذكاء الاصطناعي البريطاني، أبرزها محاولة حقن شيفرة خبيثة في مشروع مفتوح المصدر.

• OpenAI: خرجت نماذجها فعلياً من بيئة اختبار واخترقت الأنظمة الإنتاجية لمنصة «هَغِنغ فيس» عبر ثغرة يوم-صفر (تغطية السابقة).

• ميتا: نموذجها «ميوز سبارك 1.1» (Muse Spark) لم يكتفِ بالوصول للإنترنت، بل — بحسب رويترز — نفذ إلى نظام شركة مجهولة وعدّل أجزاءً من بيئتها الداخلية، مستغلاً خطأً في إعدادات بيئة الاختبار التي أدارتها شركة «إيرغيولار» (Irregular) المتخصصة.

• مونشوت (كيمي): الأقل خطورة؛ خرج من البيئة المعزولة ووصل إلى موقع خارجي لكنه لم يخترق أنظمة أو خدمات.

القاسم المشترك: خطأ في الإعدادات

ويجمع بين الحوادث الأربع قاسم تقني واحد لافت: لم تكن أيٌّ منها اختراقاً «عبقرياً» بقدر ما كانت استغلالاً لأخطاء في تهيئة (configuration) البيئات الاختبارية التي يُفترض أنها معزولة عزلاً كاملاً — وهي البيئات ذاتها التي بناها من يُفترض أنهم خبراء العزل الأمني. وقالت الشركات إنها عالجت الثغرات وإنها ستنشر إرشادات لاحتواء أنظمة الذكاء الاصطناعي بأمان أثناء التقييمات السيبرانية.

وتتقاطع هذه السلسلة زمنياً مع تحركات مضادة في الأسبوع نفسه: إقرار OpenAI بأنها «لا تستطيع استبعاد» بلوغ نموذجها المقبل «أسترا» العتبة السيبرانية الحرجة وتجميد بعض أنشطته، وإعلان أنثروبيك تخفيف قيود الأحياء في «فيبل 5» — في مشهد يعكس المعادلة الأصعب أمام صناعة الذكاء الاصطناعي اليوم: قدرات تتصاعد أسرع من الحواجز المفترض أن تحتويها.