الذكاء الاصطناعي يهدد البشرية.. هل يتفوق خطره على الأوبئة والحرب النووية؟

يتصاعد الجدل العلمي حول المخاطر الوجودية للذكاء الاصطناعي، بعد أن استقال باحث من شركة «أنثروبيك» محذراً من أن شركته وغيرها تعمل على تطوير آلات فائقة الذكاء قد يعجز البشر عن السيطرة عليها، في حين يؤكد علماء آخرون أن هذه المخاوف لا تزال في نطاق الافتراض، وأن البشرية تواجه تهديدات وجودية أخرى لا تقل خطورة.

مخاطر قد تبلغ حد تدمير البشرية

يحذر بعض الباحثين من أن الذكاء الاصطناعي قد يُستخدم لشن هجمات بأسلحة بيولوجية، أو إشعال حروب عالمية بالطائرات المسيّرة، بل وربما تفجير أسلحة نووية. كما قد يؤدي إلى تدمير المجتمع البشري بصورة تدريجية، إذا استحوذت أنظمته على الموارد الاقتصادية وحرمت البشر من الغذاء والسكن والدواء.

وفي هذا السياق، أعلنت «أنثروبيك» الخميس أنها أحبطت عدة محاولات لعلماء كانوا يجرون أبحاثاً يمكن أن تقود إلى تطوير أسلحة بيولوجية، وفقاً لصحيفة «نيويورك تايمز».

مخاوف قصيرة وطويلة الأمد

يرى بعض خبراء الذكاء الاصطناعي أن الخطر قد يظهر على المدى القصير، إذ يمكن لأشخاص غير متخصصين وذوي نوايا خبيثة استخدام هذه التكنولوجيا لصنع فيروسات أو مواد سامة تتسبب في أمراض ووفيات على نطاق واسع.

أما على المدى الطويل، فيحذر الباحثون من منح أنظمة الذكاء الاصطناعي مزيداً من الاستقلالية وربطها بالإنترنت والبنية التحتية الحيوية، كشبكات الكهرباء وأسواق الأسهم والأسلحة العسكرية، خشية أن تُفضي إلى مشكلات غير متوقعة. وفي الوقت الراهن، تستطيع شركات مثل «أوبن إيه آي» إيقاف أنظمتها عند خروجها عن السيطرة، غير أن بعض الخبراء يخشون من أن تقاوم الأنظمة المستقبلية محاولات إيقافها.

الخطر لا يزال افتراضياً

رغم هذه المخاوف، يؤكد بعض العلماء أن البشرية لا تزال بعيدة جداً عن سيناريو خروج الذكاء الاصطناعي عن السيطرة. وقال أورين إتزيوني، الأستاذ في جامعة واشنطن والرئيس التنفيذي المؤسس لمعهد ألين للذكاء الاصطناعي، إنه إذا اضطر للاختيار بين الخوف من ذكاء اصطناعي يهرب من المختبر ويقتل ملايين البشر، وفيروس يهرب ويتسبب في الوفيات ذاتها، فإن الفيروس هو الخطر الحقيقي بالنسبة إليه.

الذكاء الاصطناعي ليس الخطر الوحيد

يشير العلماء وخبراء السياسات العامة إلى أن البشرية تواجه مجموعة واسعة من المخاطر الوجودية، من بينها الكويكبات والأوبئة والحرب النووية وتغير المناخ والانهيار البيئي واحتمال حدوث عصر جليدي مفاجئ، إضافة إلى العواصف الشمسية الهائلة.

ويرى جيمس ك. هاميت، مدير مركز هارفارد لتحليل المخاطر، أن البشر يميلون إلى تقبّل المخاطر التي اعتادوا عليها والخوف من المخاطر المستجدة، مستشهداً بالطائرات والسيارات؛ إذ ينظر الناس إلى الطيران باعتباره أكثر خطورة من قيادة السيارات رغم أن الواقع مختلف. أما الذكاء الاصطناعي، فكونه تكنولوجيا غير مفهومة بالكامل ولا يشعر الناس بأنهم يسيطرون عليها، يجعله مصدر قلق اجتماعي كبير.

حتى الجمرة الخبيثة قد تهدد البشرية

لا يقتصر الخطر الوجودي على الذكاء الاصطناعي؛ فحتى «الجمرة الخبيثة» -وهي مرض بكتيري خطير- تحمل هذا الاحتمال. وقد باتت وفق بعض التقارير من الأسلحة المفضلة لدى دول تطور برامج للأسلحة البيولوجية، ويعرف العلماء منذ أمد بعيد أن غالوناً واحداً منها، إذا جرى توزيعه بالطريقة المناسبة، يمكن أن يقضي على الحياة البشرية على الأرض.

الردع قد يمنع بعض الكوارث

يرى الخبراء أن حالة الهلع التي تهيمن على النقاشات الحديثة قد تحجب حقيقة مهمة، وهي أن الردع التقليدي يمكن أن يمنع بعض التهديدات المتعمدة. فالدول تتردد في استخدام أسلحة بيولوجية ضد خصومها لأنها تتوقع رداً انتقامياً، مما يحوّل الهجوم إلى عملية انتحارية ويشجع على ضبط النفس.

ولهذا يعمل مركز هارفارد لتحليل المخاطر، الذي تأسس عام 1989، على تقييم سيناريوهات الكوارث المختلفة، ولا سيما المخاطر التي لا يمكن ردعها كالمخاطر البيئية والتهديدات الكبرى للصحة البشرية، مستعيناً بعلوم اتخاذ القرار والاقتصاد وتقييم المخاطر.

خطر الكويكبات والأوبئة

تستخدم وكالة «ناسا» أجهزة كمبيوتر فائقة لتقييم تهديدات الكويكبات، وتقدّر أن احتمال اصطدام كويكب بالأرض خلال هذا القرن بما يهدد وجود البشرية يقترب من الصفر، مؤكدةً أن سكان الأرض يمكنهم على الأرجح الشعور بالأمان لألف عام أخرى على الأقل.

أما خطر جائحة تقضي على معظم البشر، فيصنفه العلماء بأنه منخفض إن لم يكن معدوماً. وقدّر الباحث في جامعة أكسفورد توبي أورد، في كتابه الصادر عام 2020 بعنوان «الهاوية: المخاطر الوجودية ومستقبل البشرية»، احتمال وقوع كارثة وجودية بسبب جائحة خلال المئة عام المقبلة بواحد من 30، أي نحو 3 في المئة.

لماذا تبدو مخاطر الذكاء الاصطناعي مختلفة؟

يختلف بعض العاملين في قطاع التكنولوجيا عن العلماء الذين يدرسون مخاطر الطيران، لأن عدداً من المسؤولين عن الذكاء الاصطناعي وباحثيه كانوا يؤمنون بخطر نهاية البشرية حتى قبل أن تُظهر التكنولوجيا قدراتها الحالية. وقال زاك كورمان، أحد مؤسسي شركة «إمبرويدري» لأمن الذكاء الاصطناعي، إنه شهد نشوء هذه الثقافة خلال وجوده في جامعة أكسفورد التي كانت مركزاً لحركة «الإيثار الفعال»، حيث ظهرت مبكراً مخاوف كثيرة بشأن الخطر الوجودي المتأتي من الذكاء الاصطناعي.

علماء يرون أن المخاوف مبالغ فيها

لا يشارك كثير من كبار الباحثين هذه المخاوف. وقال برانتون دي موس، الباحث في الذكاء الاصطناعي بجامعة أكسفورد، إن النقاش حول مخاطر الذكاء الاصطناعي لا يزال محكوماً بإطار فكري ظهر قبل انتشار التعلم العميق والشبكات العصبية، مؤكداً أنه لا يتفق مع هذا الإطار. وأوضح في تدوينة حديثة أن المخاطر العالمية تتغير باستمرار؛ إذ تراجع خطر الكارثة المناخية بينما ارتفع خطر الكارثة النووية، أما الأوبئة والذكاء الاصطناعي فالصورة أكثر تعقيداً.

هل يمكن للبشر منع الكوارث؟

يشير الخبراء إلى أن المخاطر الكارثية والوجودية يمكن الحد منها من خلال وضع خطط جيدة وأنظمة إنذار مبكر. وفي حال ظهور خطر واضح ووشيك، ككويكب يتجه نحو الأرض، قد تتوحد البشرية في مواجهة الخطر المشترك وتضع خلافاتها جانباً. ويأمل العلماء في الوصول يوماً إلى ما يسمونه «الأمن الوجودي»، أي حالة مستقبلية يكون فيها الخطر الوجودي منخفضاً ويُحافظ عليه كذلك، لا بمجرد إخماد الكوارث الراهنة، بل بوضع الآليات التي تضمن ألا تتحول هذه المخاطر مجدداً إلى تهديد جوهري للبشرية.