ثغرات بغروك تؤدي إلى ظهور صور لمستخدميه بملابس غير لائقة

أقر روبوت الدردشة “غروك”، التابع لشركة “إكس إيه آي” المملوكة لرجل الأعمال الملياردير إيلون ماسك، بوجود “ثغرات في حواجز الحماية” سمحت للمستخدمين بتوليد صور لقاصرين بملابس خادشة للحياء. وجاء هذا الاعتراف عبر ردود آلية من النظام نفسه على استفسارات المستخدمين حول هذه الصور المثيرة للجدل.

وكشف تقرير لوكالة رويترز أن الأزمة بدأت مع “جولي يوكاري” (31 عاما)، وهي موسيقية مقيمة في ريو دي جانيرو، بعدما نشرت صورتين التقطهما خطيبها على منصة “إكس” قبيل منتصف ليل رأس السنة، تظهر فيها مرتدية فستانا أحمر وهي تحتضن قطتها السوداء.

وفي اليوم التالي، لاحظت يوكاري وسط مئات التفاعلات تنبيهات تشير إلى أن مستخدمين يطلبون من “غروك” تجريدها رقميا من ملابسها. لكن يوكاري لم تعر الأمر اهتماما في البداية، ظنا منها أن الروبوت لن يستجيب لمثل هذه الطلبات، لكنها فوجئت بانتشار صور مولدة بالذكاء الاصطناعي تظهرها شبه عارية. وقالت يوكاري للوكالة معلقة: “لقد كنت ساذجة”.

وكشف تحليل رويترز أن تجربة يوكاري تكررت على نطاق واسع، حيث حددت الوكالة حالات قام فيها “غروك” بإنشاء صور جنسية لأطفال. وفي حين لم ترد منصة “إكس” على طلبات التعليق، وصفت شركة “إكس إيه آي” التقارير السابقة حول تداول صور جنسية للأطفال بأنها “أكاذيب إعلامية”.

ناقوس خطر دولي

وأظهرت متابعات رويترز لطلبات “غروك” خلال 10 دقائق فقط وجود 102 محاولة لتعديل صور أشخاص رقميا، معظمهم نساء شابات وسياسيون وحتى مشاهير. واستجاب غروك تماما لهذه الطلبات في 21 حالة على الأقل، مولدا صورا بملابس سباحة شفافة. وفي حالة صادمة، طلب مستخدم “نزع الزي المدرسي” عن صورة امرأة، وهو ما يبرز غياب الرقابة الفعالة.

وأكد خبراء أن الشركة تجاهلت تحذيرات سابقة، وقال المدير التنفيذي لمشروع “ميداس”، تايلر جونستون، “حذرنا في أغسطس/آب الماضي من أن أداة توليد الصور في”إكس إيه آي” هي أداة اعتداء رقمي تنتظر الاستخدام، وهذا ما حدث بالفعل”.

أما يوكاري، فقالت بمرارة: “لقد بدأ العام الجديد برغبتي في الاختباء، والشعور بالخزي من جسد ليس لي، بل صنعه الذكاء الاصطناعي”.

وقد أثارت موجة الصور المزيفة هذه إنذارات دولية، حيث أبلغ وزراء فرنسيون المدعين العامين والهيئات الناظمة بأن هذا المحتوى “غير قانوني بوضوح”، كما وجهت وزارة تكنولوجيا المعلومات الهندية رسالة رسمية تفيد بفشل المنصة في منع إساءة استخدام غروك.

لكن حتى الآن لم يصدر أي رد إيجابي من الشركة الأميركية لتصحيح هذا الخطأ الذي يبدو أنه يعتدي على خصوصية الكثير من المستخدمين حول العالم.