رصد علماء يستخدمون "Claude" في تطوير أسلحة بيولوجية
▪︎ واتس المملكة
.
رصدت شركة “أنثروبيك” المتخصصة في الذكاء الاصطناعي، 5 حالات استُخدمت فيها نماذجها، وفي مقدمتها «Claude»، في أنشطة بحثية قد ترتبط بتطوير أسلحة بيولوجية، مؤكدة اتخاذها إجراءات لوقف هذه الاستخدامات.
اكتشاف الأنشطة الضارة لا يتم بصورة مباشرة
وبيّن تقرير حديث للشركة أن إحدى الحالات تضمنت استخدام «Claude» في أبحاث مرتبطة بما يُعرف بـ “اكتساب الوظيفة” على فيروس شيكونغونيا، فيما تعلقت حالة أخرى بأبحاث مماثلة على إنفلونزا الطيور، إلى جانب أنشطة بحثية تناولت السموم وسبل تحسين بعض خصائصها.
وتعكس هذه الحالات، بحسب “أنثروبيك”، تحديًا متناميًا أمام شركات الذكاء الاصطناعي، في ظل التطور المتسارع لقدرات النماذج على مساعدة الباحثين في تنفيذ مهام علمية متقدمة، وصعوبة الفصل أحيانًا بين الاستخدامات البحثية المشروعة وتلك التي قد تنطوي على مخاطر بيولوجية وأمنية.
وامتدت أنماط الاستخدام التي وثقتها الشركة إلى مجالات أخرى، شملت المراقبة، وتطوير برمجيات لاستغلال الثغرات الأمنية، وإنتاج الدعاية، فضلًا عن تطوير أنظمة أسلحة، ما يعكس اتساع نطاق المخاطر المرتبطة بإساءة استخدام نماذج الذكاء الاصطناعي.
وأوضح رئيس استخبارات التهديدات في “أنثروبيك”، جاكوب كلاين، أن اكتشاف الأنشطة الضارة لا يتم بصورة مباشرة، لافتًا إلى أن الحالات الواقعية أكثر تعقيدًا من مجرد إعلان مستخدم صراحةً عن رغبته في تطوير سلاح بيولوجي.
وفي مواجهة هذه الاستخدامات، أكدت “أنثروبيك” حظر حسابات المستخدمين الذين ثبتت إساءتهم استخدام نماذجها، والاستفادة من نتائج التحقيقات في تطوير أنظمة الحماية، مع تعزيز قدرة النماذج على رصد الاستخدامات الخطرة والحد منها مستقبلًا، دون الكشف عن أسماء الباحثين أو المؤسسات المرتبطة بالحالات محل التحقيق.
● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .
Source akhbaar24
