مايكروسوفت تحذّر من مخاطر وكلاء الذكاء الاصطناعي داخل الشركات
▪︎ واتس المملكة
.
حذّرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات، مؤكدةً صعوبة الوثوق الكامل بالنماذج المتقدمة، حتى عندما تطوّرها شركات متخصصة. وأعلنت أدوات جديدة لمراقبة سلوك هذه الأنظمة وتقييد صلاحياتها، للحد من المخاطر الأمنية والتشغيلية التي قد تنتج عن قرارات غير متوقعة.
وتشمل هذه الأدوات ميزة “Guardian Agents”، التي تندرج ضمن مشروع “Project Perception” الذي أطلقته الشركة في يونيو الماضي لتعزيز الأمن السيبراني المدعوم بالذكاء الاصطناعي. واعتمد المشروع في بدايته على 3 أنواع من الوكلاء: فريق أحمر يحاكي المهاجمين ويختبر الأنظمة، وفريق أزرق يرصد الهجمات ويقيّم الثغرات، وفريق أخضر يتولى معالجتها. واستهدف المشروع في مرحلته الأولى التهديدات الخارجية، بما فيها قدرات الاختراق المرتبطة بنماذج “Mythos” و”Fable” التابعة لأنثروبيك، ونظام “Daybreak” الذي تطوّره OpenAI لفحص الثغرات الأمنية.
التحذير يأتي لاحتمال اتخاذهم قرارات تضر بالبيانات والعمليات الحساسة
لكن الشركة وسّعت نطاق تحذيراتها ليشمل الوكلاء الذين تستخدمهم المؤسسات داخل أنظمتها، لاحتمال تصرفهم بصورة غير متوقعة أو اتخاذهم قرارات تضر بالبيانات والعمليات الحساسة، بما يشبه التهديدات الداخلية الناجمة عن إساءة استخدام الصلاحيات.
وحذّر الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، مطلع أكتوبر الجاري، من الاعتماد الكامل على ضمانات الأمان التي تقدمها الشركات المطوّرة، داعيًا المؤسسات إلى إنشاء أنظمة مستقلة لمراقبة الوكلاء والتحكم في سلوكهم، خصوصًا مع حصولهم على إمكانية الوصول إلى بيانات حساسة وتنفيذ عمليات بالغة الأهمية.
من جانبها، أوضحت هاييتيه غالوت، المسؤولة عن قطاع الأمن في مايكروسوفت، أن المشكلة لا تكمن بالضرورة في كون النماذج خبيثة أو سهلة الاختراق، بل في صعوبة التنبؤ بسلوكها؛ إذ تُدرّب على إنجاز المهام، وليس بالضرورة على الالتزام بمعايير المؤسسات وقواعدها التنظيمية.
وتتيح ميزة اكتشاف الوكلاء في خدمة “Microsoft Defender” رصد ما يصل إلى 60 نوعًا من وكلاء الذكاء الاصطناعي، من بينها “Claude Code” و”Codex” و”OpenClaw”، كما توفر الشركة أدوات لتقييد وصولهم إلى البيانات والأنظمة، وتعديل صلاحياتهم بحسب المهام، وطلب موافقة بشرية عند رصد قرارات تنطوي على مخاطر.
وتستند استراتيجية مايكروسوفت إلى فصل تطوير الوكلاء عن مراقبتهم وتقييم مخاطرهم، بما يعزز استقلالية الرقابة، ويفتح المجال أمام توسيع أعمالها في المنتجات الأمنية والسحابية.
وفي السياق ذاته، انضمت مايكروسوفت إلى الأعضاء المؤسسين لمنصة “Open Agent Safety Platform” التي أطلقتها إنفيديا بدعم أكثر من 100 شركة تقنية، بهدف عزل الوكلاء في بيئات آمنة ومراقبة سلوكهم وإيقاف الأنشطة الخطرة بآليات تعتمد على العتاد، ويعكس ذلك تنامي التوجه نحو تطوير ضوابط مستقلة لضمان الاستخدام الآمن لوكلاء الذكاء الاصطناعي داخل المؤسسات.
● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .
Source akhbaar24
