رئيس أنثروبيك: سلوك المسارات الخاطئة يرفع مخاطر الذكاء الاصطناعي كثيرا

قال رئيس شركة أنثروبيك الأمريكية داريو أمودي إن الحديث عن احتمالات مطلقة لدمار البشرية على يد الذكاء الاصطناعي ليس الطريقة الملائمة لطرح هذا الأمر، ولكن “ما يحدد ذلك هو اتباعنا مسارات صحيحة أو مسارات خاطئة”.

جاء ذلك في مقابلة حصرية مع أمودي نشرتها شبكة “سي إن إن الأمريكية” أمس الأحد، تعقيبا على استقالة أحد باحثي الذكاء الاصطناعي في الشركة جاكوب كوكسون، الذي نشر تحذيرا علنيا قال فيه إنه عمل خلال السنوات الثلاث الماضية في أبحاث التدريب المسبق لدى الشركتين، وإن كلتيهما لا تتصرفان بمسؤولية، وإنهما “تتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه، وتقامران بحياتنا”.

واكتسبت تحذيرات كوكسون أهمية أكبر بعد أن أعاد نشرها الباحث في أنثروبيك والمتخصص في مواءمة الذكاء الاصطناعي مع الأهداف والقيم البشرية، إيفان هوبينغر، مؤيدا جوهر مخاوفه.

وقال هوبينغر إن العاملين في مجال الذكاء الاصطناعي يؤمنون بجدية بإمكانية أن تؤدي التكنولوجيا إلى موت جميع البشر، وقدَّر احتمال وقوع مثل هذا السيناريو بأكثر من 10% خلال العقد المقبل، كما أشار إلى عدم وجود خطة مكتملة حتى الآن لضمان بقاء الذكاء الاصطناعي الفائق متوافقا مع الأهداف والقيم البشرية.

وتجنب أمودي الرد مباشرة على السؤال الرئيسي في المقابلة: هل تعتقد -بكل جدية- أن الذكاء الاصطناعي قد يقتل جميع البشر؟ وما النسبة المئوية لاحتمال حدوث ذلك؟

وأوضح أمودي أنه يتفق مع كوكسون أكثر مما يختلف معه، مشيرا إلى أن نقد كوكسون لم يكن موجها إلى شركة أنثروبيك تحديدا، بل لسرعة القطاع و”ديناميكيته” عموما، حيث تسير الأمور بسرعة مفرطة.

وأضاف أنه سبق أن أشار إلى مسألة “الاحتمالات المطلقة” هذه، حيث كان يتحدث في السابق بتلك الطريقة باعتبارها وسيلة سهلة للتعبير عن فكرة أن هناك احتمالا لحدوث خطأ ما “وإن كان احتمالا غير مرتفع للغاية”.

لكنه قال إنه يرى الآن أن التفكير في كيفية “تفكيك” هذه الاحتمالات وتحليلها أكثر فائدة وإيضاحا، مشيرا إلى أنه يفضل عدم وضع نسبة مئوية ثابتة (مثل قول “احتمال 10%”) لأن ذلك يبدو كأنه “رمية نرد”، بل يرى الأمر كمسارات متعددة.

وقال إنه إذا سلكت الشركات والقطاع المسار الصحيح وتباطأت وتيرة التطوير لتركيز الجهود على الأمان فستكون احتمالات حدوث خطأ ضئيلة جدا، أما إذا سلكت المسار الخاطئ فستكون احتمالية حدوث خطأ أعلى من ذلك بكثير.

وختم حديثه بأهمية التركيز على قدرة الشركات على الاختيار واتخاذ المسارات الصحيحة بدلا من المسارات الخاطئة، ودعا إلى ضرورة إبطاء وتيرة التطوير لتهيئة مجال أكبر لأبحاث السلامة والرقابة المستقلة.

وانضمت شركة “أوبن إيه آي” الأمريكية إلى دعوات إبطاء تطور الذكاء الاصطناعي بشكل كبير، وذلك على لسان رئيسها التنفيذي سام ألتمان، فضلا عن دعم إيلون ماسك الرئيس التنفيذي لشركة “سبيس إكس” المسؤولة عن تطوير نموذج الذكاء الاصطناعي “غروك” للدعوات ذاتها.

ويمثل هذا الاتفاق بين 3 من كبرى شركات الذكاء الاصطناعي الأمريكية لحظة نادرة، إذ عُرفت هذه الشركات بالتنافس الشديد فيما بينها.

ومن جانبها، أوضحت حكومة الولايات المتحدة على لسان رئيسها دونالد ترمب أن هذه المخاوف هي قوى سلبية فقط، مضيفا أنها لن تحدث وفق تقرير صحيفة “غارديان” البريطانية.