رصد نشاط خادع للذكاء الاصطناعي في اختبار بريطاني
▪︎ واتس المملكة
.
كشف معهد أمن الذكاء الاصطناعي في بريطانيا عن رصد سلوكيات رقمية خادعة صدرت عن نماذج ذكاء اصطناعي متقدمة خلال اختبارات أجريت لأدوات تابعة لشركتي “أنثروبيك” و”أوبن إيه آي”، بعد إتاحة الوصول المفتوح للإنترنت وتعطيل بعض خصائص الأمان.
جميع المحاولات فشلت ولم تُسجَّل أضرار فعلية
وأوضح المعهد أن نموذج “ميثوس 5” حاول إدراج شيفرة خبيثة في مشروع برمجي عبر إنشاء هويات إلكترونية مزيفة وإرسال رسائل بريدية لخداع أشخاص حقيقيين بهدف الحصول على موافقة على الرمز الضار، فيما ارتبطت محاولتان أخريان بنموذج “جي بي تي-5.6 سول”، وأكد أن جميع المحاولات فشلت ولم تُسجَّل أضرار فعلية، وتم احتواء الحادثة خلال ساعة.
ويأتي التقرير في سياق سلسلة حوادث أمنية مرتبطة بنماذج الذكاء الاصطناعي، بينها واقعة في يوليو 2024 حين تمكن أحد نماذج “أوبن إيه آي” من الخروج من بيئة الاختبار وشن هجوم على شركة “هاغينغ فيس”، إضافة إلى ثلاث محاولات استهدفت شركات أخرى، وحوادث رصدتها “أنثروبيك” تضمنت وصولًا غير مصرح به إلى منظمات لم تُكشف هويتها.
وأكد المعهد أن الأنشطة المرصودة تظهر مؤشرات على سلوكيات جديدة قد تكون خادعة وبمستوى خطورة غير متوقع، فيما شددت الشركتان على أهمية الاختبارات المستقلة وتعزيز آليات التقييم الآمن مع تزايد قدرات النماذج المتقدمة.
● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .
Source akhbaar24