رصد أكثر من 100 تحيز في دليل مرجعي لتحيزات الذكاء الاصطناعي
▪︎ واتس المملكة
.
أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي “سدايا”، النسخة الأولى من “الدليل المرجعي لتحيزات الذكاء الاصطناعي”، الذي يحوي أكثر من 100 تحيز من التحيزات التي قد تؤثر في دقة وعدالة أنظمة الذكاء الاصطناعي، ويستعرض تعريفاتها، وكيفية نشأتها، وتأثيرها في المجتمع، إلى جانب أمثلة واقعية وإستراتيجيات عملية للتخفيف من آثارها.
قد تؤثر في عمليات صنع القرار، نتيجة الطبيعة المعقدة لهذه الأنظمة
وأوضح الدليل أن تقنيات الذكاء الاصطناعي شهدت توسعًا ملحوظًا في مختلف القطاعات الحيوية والحساسة، مثل العدل والصحة والتعليم، الأمر الذي رافقه تزايد الاهتمام بمعالجة التحيزات التي قد تؤثر في عمليات صنع القرار، نتيجة الطبيعة المعقدة لهذه الأنظمة وتعدد مراحل تطويرها وتداخل أدوار المختصين فيها.
وبيّن أن هذه التحيزات قد تؤدي إلى تقويض فاعلية أنظمة الذكاء الاصطناعي وتحولها من أداة لتعزيز العدالة والإنصاف إلى وسيلة تفاقم التحيز، مما قد يؤثر في سمعة المؤسسات ويعرّضها للمساءلات القانونية أو شكاوى المستهلكين، مؤكدًا أن حصر هذه التحيزات وفهم أسبابها ووضع آليات للحد منها يمثل خطوة أساسية لضمان نجاح مشاريع الذكاء الاصطناعي.
وأشار الدليل إلى أن مصادر التحيز تتنوع بين بيانات تدريب لا تمثل مختلف الفئات تمثيلًا كافيًا، وخوارزميات قد تفضل -دون قصد- خصائص فئات معينة، إضافةً إلى افتراضات وتقديرات مسبقة تنعكس في تفسير البيانات، مستشهدًا بأدوات التوظيف التي قد تمنح أفضلية لمرشحين من خلفيات تعليمية نخبوية على حساب آخرين مؤهلين من خلفيات أقل حظًا.
ويأتي إصدار الدليل امتدادًا لجهود “سدايا” في تعزيز عدالة أنظمة الذكاء الاصطناعي، بعد إصدار مبادئ أخلاقيات الذكاء الاصطناعي، ومبادئ الذكاء الاصطناعي التوليدي للجهات الحكومية وللعموم، وإطار تبني الذكاء الاصطناعي، إلى جانب دراسة “التحيز في أنظمة الذكاء الاصطناعي: تحديات وحلول”.
● تنويه لزوار الموقع (الجدد) :- يمكنك الإشتراك بالأخبار عبر الواتساب مجاناً انقر هنا ليصلك كل ماهو جديد و حصري .
Source akhbaar24