منصة أمنية جديدة للذكاء الاصطناعي
▪︎ واتس المملكة
.
كشفت شركة “إنفيديا” الأمريكية عن منصة أمنية جديدة تهدف إلى تعزيز سلامة وكلاء الذكاء الاصطناعي ومنعهم من تجاوز الحدود والصلاحيات المحددة لهم.
نظام المنصة يمكنه عزل الذكاء الاصطناعي وإيقافه إذا حاول تجاوز الحدود المحددة له
وأوضحت الشركة أن منصة “أوبن إيجنت سيفتي” (Open Agent Safety Platform) تضم برمجية “أوبن شيل” (OpenShell) مفتوحة المصدر، التي تضع حدودًا آمنة لعمل وكلاء الذكاء الاصطناعي، إلى جانب نظام “سينتري” (Sentry) للمراقبة الأمنية المستقلة.
وأشارت إلى أن المنصة تأتي في ظل تزايد الاهتمام بسلامة أنظمة الذكاء الاصطناعي المتقدمة، والحاجة إلى توفير أدوات تتيح مزيدًا من التحكم في عمل الوكلاء وصلاحياتهم.
وتتيح برمجية “أوبن شيل” للمطورين التحقق من امتلاك وكلاء الذكاء الاصطناعي الصلاحيات اللازمة لإنجاز مهامهم دون تجاوزها.
ويتولى نظام “سينتري” مراقبة نشاط وكلاء الذكاء الاصطناعي باستمرار بصورة مستقلة، ويمكنه عزل الوكيل وإيقافه خلال أجزاء من الثانية إذا حاول تجاوز الحدود المحددة له.
● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .
Source akhbaar24