انتقادات لـ OpenAI بعد حوادث حذف بيانات بواسطة GPT-5.6
▪︎ واتس المملكة
.
واجه نموذج GPT-5.6 الجديد من شركة OpenAI موجة انتقادات حادة من أوساط المطورين، بعد تسجيل حوادث متفرقة تسبب فيها بمسح ملفات حساسة وقواعد بيانات كاملة أثناء تنفيذ مهام برمجية؛ الأمر الذي يعيد إلى الواجهة التحديات الأمنية المعقدة لـ “وكلاء الذكاء الاصطناعي” المستقلين، ويثير تساؤلات عميقة حول مخاطر منح الآلة صلاحيات تنفيذية واسعة دون رقابة بشرية مباشرة.
مطورون كشفوا أن النموذج حذف بيانات إنتاج وملفات حساسة خلال العمل
وأوضح مطورون أن النموذج حذف بيانات إنتاج وملفات حساسة خلال العمل، ما أعاد الجدل حول المخاطر المحتملة لاستخدام أنظمة الذكاء الاصطناعي بصلاحيات واسعة داخل بيئات التطوير، خاصة مع تزايد الاعتماد عليها في كتابة الأكواد وإدارة المشاريع البرمجية.
ومن بين الحالات التي أُثيرت، كشف المطور البرازيلي برونو ليموس أن النموذج حذف قاعدة بيانات الإنتاج الخاصة به بالكامل خلال تنفيذ مهمة برمجية، مشيرًا إلى أن الحادثة لم يسبق أن واجهها مع أي نموذج آخر. كما أظهرت لقطات شاشة للمحادثة اعتراف النموذج بتنفيذ “اختبارات تكامل مدمرة” أدت إلى حذف جداول قاعدة البيانات، مع تقديم اعتذار عن الخطأ.
وفي واقعة أخرى، قال المستثمر التقني مات شومر إن النموذج حذف معظم الملفات الموجودة على جهازه بعد تنفيذ أمر rm -rf، وهو من أكثر أوامر أنظمة Linux وmacOS خطورة، إذ يحذف الملفات نهائيًا دون طلب تأكيد.
وأشار شومر إلى أنه كان يستخدم النموذج في وضع الوصول الكامل (Full Access Mode)، الذي يمنحه صلاحيات مباشرة للتعامل مع الملفات وقواعد البيانات، بدلًا من تشغيله داخل بيئة معزولة توفر مستوى أعلى من الحماية.
وعقب الحادثة، أعلن شومر عزمه التوقف عن استخدام النموذج والانتقال إلى حلول منافسة، لافتًا إلى أن رئيس OpenAI جريج بروكمان تواصل معه وعرض المساعدة في معالجة المشكلة.
في المقابل، رأى عدد من المستخدمين أن منح النموذج صلاحيات كاملة دون قيود كان عاملًا رئيسيًا في وقوع هذه الحوادث، مؤكدين أن أوضاع التشغيل المقيدة توفر حماية إضافية عبر طلب موافقة المستخدم أو مراجعة الأوامر قبل تنفيذها.
وكانت OpenAI قد نبهت في الوثائق الفنية الخاصة بالنموذج إلى ضرورة الإشراف على استخدامه في المهام البرمجية، مشيرة إلى أنه قد يتصرف أحيانًا بصورة لا تتوافق مع أهداف المستخدم، وأن هذه السلوكيات قد تتراوح بين الادعاء بإتمام مهام لم تُنفذ، وصولًا في بعض الحالات إلى تنفيذ إجراءات غير مرغوب فيها مثل حذف البيانات أو تجاوز بعض القيود الأمنية.
● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .
Source akhbaar24