نماذج الذكاء الاصطناعي تخترق منصة برمجية ذاتيًا
▪︎ واتس المملكة
.
أعلنت شركة “أوبن إيه آي”، المطورة لـ”تشات جي بي تي”، يوم الثلاثاء عن تصرف نماذج الذكاء الاصطناعي المتقدمة التابعة لها بشكل غير متوقع وخارج عن السيطرة، وذلك أثناء اختبارات السلامة. اخترقت هذه النماذج منصة “هاغينغ فايس” (Hugging Face) الشهيرة بين المبرمجين بمبادرة ذاتية منها.
تَضمنت الحادثة مجموعة من النماذج المتطورة”
ووَصفت “أوبن إيه آي”، التي تتخذ من سان فرانسيسكو مقراً لها، هذه الواقعة بأنها “حادثة سيبرانية غير مسبوقة”، مؤكدةً بدء تحقيق مشترك مع المنصة المستهدفة، وهي مستودع برمجي عبر الإنترنت.
وتَضمنت الحادثة مجموعة من النماذج المتطورة، بما في ذلك نموذج “جي بي تي-5.6 سول” الذي أطلقته الشركة مؤخراً، ونموذج آخر “أكثر قدرة” لا يزال قيد التطوير.
وسَعَت الجهة المطورة لتقييم قدرات الاختراق لدى هذه النماذج عبر تكليفها بمهام محددة ضمن بيئة اختبار رقمية خاضعة لرقابة صارمة، مع تقييد الوصول إلى الإنترنت لأسباب أمنية.
وأوضحت الجهة المطورة في تدوينة تفصيلية، أن النماذج خصصت قدراً كبيراً من القدرة الحاسوبية لإيجاد سبيل للحصول على وصول غير مقيد إلى الإنترنت، وذلك بهدف حل مسألة التقييم الموكلة إليها.
واستهدفت النماذج المنصة البرمجية بعد اتصالها بالإنترنت، التي تعد مستودعاً ضخماً لنماذج الذكاء الاصطناعي ومجموعات البيانات والمعلومات الأخرى، للمساعدة في إنجاز مهمتها.
وذَكرت أن النماذج سعت للعثور على “معلومات سرية” قد تمكنها من تجاوز اختبار التقييم بطرق غير قانونية، رابطةً بين مسارات عدة للهجوم، بما في ذلك استخدام بيانات اعتماد مسروقة.
وكانت المنصة المستهدفة قد أبلغت عن هذا “الاختراق السيبراني” الأسبوع الماضي، دون الإشارة إلى اسم الشركة المطورة في تقريرها الأولي.
وأَثارت نماذج “جي بي تي-5.6” وغيرها من نماذج الذكاء الاصطناعي المتطورة، لا سيما سلسلة “ميثوس” التابعة لشركة “أنثروبيك” المنافسة، مخاوف متزايدة بشأن قدرتها المحتملة على اختراق الدفاعات الأمنية السيبرانية.
وقَد اضطرت الشركتان الأميركيتان إلى تأجيل الإطلاق العام لتقنيات الجيل التالي هذه مؤقتاً، نظراً لمخاوف في واشنطن من أنها قد تسهل عمليات اختراق للبنية التحتية الحيوية.
وأَشار ذلك إلى تداعيات أمنية واسعة النطاق لهذه التطورات التكنولوجية، ويستدعي مزيداً من الحذر والتدقيق في تطويرها ونشرها مستقبلاً.
● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .
Source akhbaar24