قدّر نظام للذكاء الاصطناعي احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية خلال السنوات العشر المقبلة بنحو 0.85%، أي ما يعادل فرصة واحدة من كل 118 تقريبا، وفق تجربة أجرتها صحيفة إندبندنت البريطانية.
وأجرت الصحيفة اختبارها بالتعاون مع نظام “نواه بردكت”، وهو نظام يعتمد على تحليل ملايين البيانات والأخبار لاستخلاص الاتجاهات والمخاطر والتنبؤ بالاحتمالات.
السيناريو الثالث والأكثر إثارة للقلق، بحسب النظام الآلي، هو تحول السيطرة البشرية إلى سيطرة شكلية
ويُعَد التقدير أقل بكثير من بعض التوقعات التي طرحها مهندسون وباحثون في مجال سلامة الذكاء الاصطناعي، إذ جاءت التجربة بعد إعلان باحث الذكاء الاصطناعي جاكوب كوكسون استقالته من شركة “أنثروبيك” محذرا من أن الشركات تقامر بحياة البشر.
وقد أكد زميله إيفان هوبينغر أن بعض العاملين في المجال يعتقدون احتمالية تسبب الذكاء الاصطناعي في القضاء على البشر بنسبة تزيد على 10% خلال العقد القادم، وفق ما نقلته الصحيفة عن منشور الخبير على منصة إكس.
قصص مقترحة
list of 2 items
end of list
ويُذكر أن عالم الحاسوب الحائز على جائزة نوبل في الفيزياء جيفري هينتون، والمعروف بأبو الذكاء الاصطناعي، أيّد توقعات هؤلاء الخبراء لاحقا، قائلا لهيئة الإذاعة البريطانية “بي بي سي” إن احتمال 10% “ليس تقديرا مستبعدا”، بحسب التقرير.
وحلّل النظام السؤال من 41 زاوية مختلفة، وأجرى 108 عمليات بحث للتحقق من المعلومات، مستندا إلى نحو 52 مليون نقطة بيانات قبل التوصل إلى تقديره النهائي، وفق الصحيفة.
وخلص إلى أن الاحتمال يبلغ 0.85%، وهو أقل من 1%، لكنه لا يعني -بحسب الصحيفة- أن الخطر يمكن تجاهله، خصوصا أن بعض السيناريوهات قد تتضمن نتائج لا يمكن التراجع عنها.
الخطر الأول: تدخل بشري ضار
ويحدد “نواه بردكت” أول الأخطار في احتمالية استغلال أطراف ثالثة للذكاء الاصطناعي، لتنفيذ مهام خطيرة مثل الهجمات السيبرانية أو البيولوجية بسرعة وكفاءة أكبر.
غير أنه يؤكد -وفقا للصحيفة- أن الآلة وحدها لا تمتلك نوايا عدائية بل تعتمد على المشغل البشري.
الخطر الثاني: انهيار المؤسسات
ويشير التقرير أيضا إلى خطر استخدام الشركات للذكاء الاصطناعي لإعادة تنظيم سوق العمل بسرعة تفوق قدرة الموظفين على إعادة التدريب أو الانتقال إلى وظائف جديدة.
ويقول إن التهديد قد يتفاقم إذا أصبحت المؤسسات تعتمد على الخدمات الآلية إلى درجة تفقد معها القدرة على العمل بصورة مستقلة عند وقوع عطل أو هجوم أو اتخاذ قرار آلي خاطئ.
الخطر الثالث: فقدان البشر السيطرة
أما السيناريو الثالث والأكثر إثارة للقلق، بحسب النظام الآلي، فهو تحول السيطرة البشرية إلى سيطرة شكلية، عندما يتم تصميم أنظمة تسعى إلى تحقيق هدف معين وتعتبر التدخل البشري عقبة في طريقها، فتستمر في تنفيذ هدفها بغض النظر عن محاولات إيقافها أو تصحيحها.
واقترح النظام عددا من الإجراءات للحد من هذه المخاطر، من بينها تقييد صلاحيات أنظمة الذكاء الاصطناعي، ومنع وصولها إلى البنية التحتية الحساسة، وإخضاعها لاختبارات عدائية، والتحقق بصورة مستمرة من إجراءات الإيقاف واستعادة السيطرة.
وترى الصحيفة أن السيناريوهات الثلاثة قد تتداخل أيضا، إذ يمكن أن تؤدي اضطرابات سوق العمل إلى عدم استقرار سياسي، وهو ما قد يضعف بدوره قدرة البشر على فرض الرقابة على الأنظمة المتقدمة.
وطبقا لإندبندنت، فإن النتيجة الأساسية للتجربة ليست إثبات فرضية أن الذكاء الاصطناعي لن يقضي على البشرية، بل إظهار أن تقدير حجم الخطر لا يزال محل خلاف واسع.
المصدر: الجزيرة