استقالة مسؤول في "أوبن إيه آي" تثير المخاوف بشأن الذكاء الاصطناعي
▪︎ واتس المملكة
.
أعلن ديفيد روبنسون، أحد القياديين السابقين في فريق أنظمة السلامة لدى “أوبن إيه آي”، استقالته من الشركة، موجّهًا انتقادات لوتيرة تطوير نماذج الذكاء الاصطناعي وثقافة العمل داخل الشركات العاملة في هذا المجال، محذرًا من مخاطر ما وصفه بـ”التفاؤل غير المقيد” في التعامل مع التقنيات المتقدمة.
ووفقًا لتقرير نشره موقع “بيزنس إنسايدر”، عمل روبنسون في مجال شفافية السلامة داخل “أوبن إيه آي”، وساهم في تطوير ونشر “بطاقات النظام”، التي توفر معلومات حول قدرات النماذج ومخاطرها وإجراءات الحماية المرتبطة بها.
تسارع تطوير نماذج الذكاء الاصطناعي يحد من فرص التقييم الآمن
وفي مقال نشرته مجلة “ذا أتلانتك”، قال روبنسون إن شركات الذكاء الاصطناعي لا تتعامل مع هذه التكنولوجيا بالقدر الكافي من الحذر، معتبرًا أن التسارع المستمر في إطلاق النماذج الجديدة لا يمنح فرق السلامة الوقت اللازم لضمان أعلى مستويات التقييم والاختبار.
وفي المقابل، أكدت “أوبن إيه آي” التزامها بضمان عدم تجاوز قدرات نماذجها حدود ما يمكن إدارته وتأمينه بشكل آمن، مشيرة إلى أنها قد توقف التدريب أو تؤجل إطلاق بعض النماذج عندما ترى ضرورة لإبطاء وتيرة التطوير.
وأضافت الشركة أنها وسّعت تعاونها مع جهات تقييم مستقلة، وتعمل على تعزيز أنظمة المراقبة الفورية لرصد السلوكيات غير المرغوبة أو المثيرة للقلق خلال مراحل التدريب المبكرة.
وتأتي هذه الاستقالة في ظل تدقيق متزايد يطال ممارسات السلامة والموارد البشرية داخل الشركة. وكانت “أوبن إيه آي” قد أعلنت مؤخرًا إنهاء علاقتها بثلاثة باحثين بسبب مخالفة سياسات مشاركة المعلومات الحساسة، كما شهدت مغادرة عدد من المسؤولين المعنيين بالسلامة خلال الفترة الماضية.
دعا روبنسون لقدر أكبر من الحذر في التعامل مع أنظمة تتطور قدراتها بوتيرة متسارعة
ويرى روبنسون أن التحدي لا يقتصر على الإجراءات التقنية، بل يمتد إلى ثقافة الشركات المطوّرة للذكاء الاصطناعي، مؤكدًا أن المرحلة الحالية تتطلب قدرًا أكبر من التواضع والحذر في التعامل مع أنظمة تتطور قدراتها بوتيرة متسارعة.
وأوضح أن الاعتماد على افتراض إمكانية معالجة المشكلات بعد ظهورها قد لا يكون نهجًا مناسبًا عند تطوير تقنيات ذات تأثير واسع وقدرات متنامية، محذرًا من أن هذا الأسلوب قد يزيد من المخاطر المستقبلية.
وأشار إلى أن “أوبن إيه آي” واجهت خلال الفترة الماضية عددًا من الحالات التي تصرفت فيها النماذج بصورة غير مرغوبة، بالتزامن مع تصاعد الاهتمام العالمي بأمن أنظمة الذكاء الاصطناعي وسلامتها.
وتتزامن هذه التطورات مع دعوات متزايدة من باحثين ومسؤولين في القطاع إلى إبطاء تطوير النماذج الأكثر تقدمًا، في وقت شدد فيه الرئيس التنفيذي لـ”أوبن إيه آي”، سام ألتمان، على أهمية أن تسبق السلامة ومواءمة الأنظمة مع أهداف البشر عملية تعزيز قدرات النماذج.
وأكد روبنسون أنه لم يتخذ قرار الاستقالة بسهولة، مشيرًا إلى أنه لا يزال يؤمن بإمكانات الذكاء الاصطناعي وفوائده الكبيرة، لكنه يرى أن تطوير هذه التقنيات يتطلب مزيدًا من الحذر والشفافية لمواكبة التحديات المتزايدة التي تفرضها الأنظمة عالية القدرة.
● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .
Source akhbaar24
