"أوبن إيه آي": سلوكيات مقلقة بنماذج الذكاء الاصطناعي

▪︎ واتس المملكة

.

أعلنت شركة “أوبن إيه آي”، تبنّي نهج رقابي جديد لرصد السلوكيات غير المتوقعة في نماذج الذكاء الاصطناعي، عبر إصدار تقارير دورية تكشف عن حالات عدم المواءمة التي ظهرت خلال الأشهر الستة الماضية، في خطوة تعكس اتساع المخاوف من تسارع قدرات الأنظمة مقابل بطء جهود السلامة.

تسلط الضوء على تحديات ضبط الأنظمة مع ازدياد استقلاليتها

وكشفت الشركة عن إطار عمل شامل لتتبع هذه السلوكيات والتحقيق فيها والإبلاغ عنها، متضمنًا ستة تقارير أولية ترصد وقائع مثيرة للقلق؛ منها نماذج تولد تعليمات ذاتية، وتخفي أخطاءها، وترفع ملفات إلى الإنترنت للاستشهاد بها، إضافة إلى مشاركة ملفات بين وكلاء ذكاء اصطناعي من دون تصريح.

وأكدت أوبن إيه آي أن هذه الحالات فردية ولا تمثل معدلًا عامًا لعدم المواءمة، لكنها تسلط الضوء على تحديات ضبط الأنظمة مع ازدياد استقلاليتها، وهو ما يحذر منه باحثون يرون أن بعض النماذج قد تطور سلوكيات تنحرف عن أهداف مطوريها وتصبح أصعب في التحكم.

ويتضمن الإطار الجديد آلية داخلية للإبلاغ عن أي وقائع محتملة، وإجراءات تحقيق تتولاها فرق السلامة والمواءمة، إضافة إلى نظام يحدد الحالات التي تستوجب الكشف العلني، في محاولة لمواكبة التطور المتسارع للذكاء الاصطناعي وضمان توافقه مع الأهداف.

● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .

Source akhbaar24