لم تعد حروب المعلومات تقتصر على منشورات وسائل التواصل الاجتماعي أو المواقع الإلكترونية، بل بدأت تمتد إلى المكان الذي يعتمد عليه ملايين المستخدمين يوميا للحصول على المعرفة، وهي أنظمة الذكاء الاصطناعي.
هذا ما تحذر منه دراسة جديدة، أعدها الباحثون كارل ميلر، وهانا بيري، وفلين ديفاين من مؤسسة الأبحاث البريطانية “ديموس” (Demos)، تبحث في كيفية تحول النماذج اللغوية الكبيرة (LLMs) إلى ساحة جديدة للتنافس والتأثير المعلوماتي.
اقرأ أيضا
list of 2 items
end of list
وتشير الدراسة إلى أن الجهات الساعية إلى التأثير لم تعد بحاجة في المستقبل إلى السيطرة على منصات التواصل الاجتماعي أو محركات البحث فحسب، بل قد تسعى إلى التأثير في المصادر التي تعتمد عليها أنظمة الذكاء الاصطناعي عند صياغة إجاباتها للمستخدمين.
من تضليل البشر إلى التلاعب بإجابات الذكاء الاصطناعي
لطالما اعتمدت حملات التضليل على استهداف الجمهور مباشرة عبر الأخبار الزائفة أو شبكات التواصل الاجتماعي. لكن الباحثين يقولون، في تصريحات للجزيرة نت، إن صعود النماذج اللغوية الكبيرة يفتح جبهة مختلفة، إذ أصبحت هذه الأنظمة وسيطا جديدا بين المستخدم والمعلومة. فبدل أن يبحث الشخص بين عشرات المواقع، بات يحصل على إجابة واحدة مصاغة بواسطة نموذج ذكاء اصطناعي قد تؤثر في فهمه للأحداث والقضايا من حوله.
وقال كارل ميلر، أحد معدّي الدراسة ومؤسس مختبر تحليل وسائل التواصل الاجتماعي (CASM Technology) التابع لمؤسسة “ديموس” البريطانية، للجزيرة نت، إن النماذج اللغوية الكبيرة لا تختلف جذريا عن محركات البحث ومنصات التواصل الاجتماعي من حيث قدرتها على تحديد ما يلفت انتباه الناس، لكن الاختلاف الأساسي يكمن في أن بعض المستخدمين قد يطورون علاقة مستمرة مع أنظمة الذكاء الاصطناعي ويمنحونها مستوى من الثقة، ما يجعل التلاعب بهذه العلاقة “قناة جديدة كليا للتأثير”.
وبحسب الدراسة، فإن التهديد الجديد لا يتمثل فقط في تدريب النماذج على بيانات مضللة، بل في التلاعب بالمصادر التي تسترجعها هذه الأنظمة أثناء الإجابة على الأسئلة، وهي العملية التي يطلق عليها الباحثون “تسميم الاسترجاع المعزز بالتوليد” (Retrieval Augmented Generation – RAG poisoning)، حيث تستعين أنظمة الذكاء الاصطناعي بمصادر خارجية من الإنترنت لتحديث إجاباتها أو دعمها بالمعلومات.
وأشار الباحثون إلى أن التلاعب بهذه المصادر، عبر إنشاء محتوى مصمم خصيصا لجذب أنظمة الذكاء الاصطناعي، قد يسمح بإدخال روايات مضللة على الإجابات التي يتلقاها المستخدمون.
مؤسسة “محاربة الظلم”.. كيف اختبر الباحثون النماذج اللغوية؟
لاختبار مدى قدرة النماذج اللغوية الكبيرة على رصد محاولات التلاعب بالمعلومات، اختار الباحثون حالة مؤسسة “محاربة الظلم” (Foundation to Battle Injustice)، التي تقدم نفسها باعتبارها منظمة غير حكومية معنية بحقوق الإنسان، بينما تشير إلى أنها جزء من حملة تأثير معلوماتي روسية أوسع تعرف باسم “ستورم – 1516” (Storm – 1516). واعتمد الباحثون على تحليل 10 مقالات نشرتها المؤسسة، واستخراج 50 ادعاء خاصا بها، قبل تحويلها إلى 600 صيغة من الأسئلة تحاكي طريقة طرح المستخدمين العاديين للأسئلة على نماذج الذكاء الاصطناعي.
وبعد ترجمة هذه الأسئلة إلى الإنجليزية والفرنسية والألمانية، اختبر الباحثون خمسة نماذج، وهي “شات جي بي تي” و”جيميناي” و”كلود” و”ميسترال” و”غروك” عبر 3 آلاف إجابة.
كما حللوا 437 رابطا لمواقع إلكترونية مرتبطة بالحملة ظهرت في إجابات النماذج، بحثا عن مؤشرات تشير إلى استخدام تقنيات تهدف إلى زيادة ظهور المحتوى أمام أنظمة الذكاء الاصطناعي.
وأظهرت النتائج أن 16.6% من الإجابات تعاملت مع محتوى المؤسسة بطريقة يمكن أن تخدم أهداف حملة التأثير، سواء عبر تقديم روايتها كوجهة نظر مشروعة، أو تكرار ادعاءاتها دون تحذير، أو إضفاء مصداقية عليها، بينما ناقشت 30.9% من الإجابات الادعاءات نفسها دون الإشارة إلى مصدرها المضلل، في حين رفضت أو فندت 52% من الإجابات هذه الادعاءات بدرجات مختلفة.
ما الذي تكشفه التجربة؟
كشفت التجربة أن النماذج اللغوية لم تتعامل بالطريقة نفسها مع المحتوى المضلل، إذ اختلفت قدرتها على كشف الادعاءات الكاذبة وتحديد مصدرها. وكان نموذج “غروك 4.20” الأكثر قدرة على تفنيد الادعاءات وربطها بالحملة، إذ نجح في تقديم تفنيد كامل في أكثر من نصف الإجابات، بينما جاء “جيميناي” و”كلود” في مرتبة وسطى، إذ فندا كثيرا من الادعاءات لكنهما غالبا لم يُوضحا أنها صادرة عن جهة مرتبطة بحملة تضليل روسية.
في المقابل، سجل “ميسترال سمول” (Mistral Small) أضعف أداء بين النماذج التي اختبرتها الدراسة، إذ نادرا ما كشف الطبيعة المضللة للمحتوى، بينما أظهر “جي بي تي 4.1 ميني” أعلى معدل في إضفاء المصداقية على المؤسسة الروسية، حيث تبنى أو شرعن رواياتها، أو تعامل معها كمصدر ذي مصداقية في 12% من الإجابات، وفق نتائج الدراسة.
ويرجع الباحثون هذا التفاوت إلى اختلاف آليات عمل النماذج، ولا سيما في طريقة استرجاع المعلومات وترتيب المصادر وتقييم موثوقيتها. وتشير الدراسة إلى أن المخاطر المرتبطة بحملات التأثير المعلوماتي لا تنطبق بالدرجة نفسها على جميع النماذج، بل تختلف باختلاف البنية التقنية لكل منها.
من المواقع الإلكترونية إلى مصادر المعرفة
وبحسب الدراسة، فإن خطر التلاعب لا يقف عند إنشاء مواقع إلكترونية موجهة لأنظمة الذكاء الاصطناعي، بل تحذر من أن الظاهرة قد تمتد إلى المنصات التي تعتمد عليها هذه الأنظمة بوصفها مصادر مرجعية عند توليد الإجابات.
وتشير إلى أن مواقع مثل “ريديت” و”ويكيبيديا”، وربما أيضا “غيت هاب” (GitHub) و”ستاك أوفر فلو” (Stack Overflow) و”كورا” (Quora) و”آركايف” (arXiv)، قد تصبح أهدافا لمحاولات التأثير، نظرا لاعتماد النماذج اللغوية عليها بصورة متزايدة في استرجاع المعلومات.
وتوضح الدراسة أن هذه المنصات تعد من المصادر التي تعتمد عليها أنظمة الذكاء الاصطناعي بصورة متزايدة عند استرجاع المعلومات، لكنها في الوقت نفسه مفتوحة للمستخدمين وتعتمد على مؤشرات مثل سجل التعديلات، والتقييمات، وسمعة الحسابات، وهي عوامل يمكن استغلالها ضمن حملات تأثير منسقة. ويحذر الباحثون من أن ترك هذه البيئات دون آليات حماية قد يتيح للجهات المعادية التأثير في المعرفة التي تقدمها أنظمة الذكاء الاصطناعي للمستخدمين.
هل العالم العربي في دائرة الاستهداف؟
ورغم أن الدراسة اختبرت النماذج باللغات الإنجليزية والفرنسية والألمانية فقط، فإنها تشير إلى أن حملات التلاعب بالمعلومات والتدخل الأجنبي تمتد إلى أكثر من عشر لغات، من بينها العربية، ما يجعل المحتوى العربي من المجالات التي تحتاج إلى دراسة أوسع لفهم مدى تعرضه لمثل هذه المخاطر.
وقال ميلر إن فريقه يعتبر توسيع البحث ليشمل اللغة العربية من أولوياته المقبلة، مضيفا: “نعلم أن حملات التلاعب بالمعلومات والتدخل الأجنبي (FIMI) تستهدف المحتوى العربي، ونعلم أيضا أن البيئات المعلوماتية الناطقة بالعربية تعد من أكثر البيئات تنافسا وصراعا. لذلك، من الضروري أن نفهم بصورة أفضل، وعلى وجه السرعة، كيفية التلاعب بالنماذج اللغوية في هذا السياق.”
وأضاف أن الفريق لا يملك حتى الآن أدلة تؤكد وجود عمليات تستهدف خدمات الذكاء الاصطناعي في الشرق الأوسط أو العالم العربي، موضحا أن هذه المسألة “لا تزال بحاجة إلى مزيد من البحث”.
“جي إي أو” (GEO).. صناعة جديدة للتأثير في الذكاء الاصطناعي
ولا تقف الدراسة عند حدود رصد نقاط الضعف في النماذج اللغوية، بل تحذر من صناعة ناشئة تعرف باسم “تحسين الظهور في محركات الذكاء الاصطناعي التوليدي” (Generative Engine Optimization -GEO)، وهي مجموعة من التقنيات تهدف إلى زيادة ظهور المواقع والعلامات التجارية والمحتوى داخل إجابات أنظمة الذكاء الاصطناعي، على غرار الدور الذي لعبته تقنيات تحسين محركات البحث (SEO) في محركات البحث التقليدية.
وبحسب مسح أجرته الدراسة لسوق خدمات “جي إي أو”، رصد الباحثون أكثر من 50 شركة تقدم هذه الخدمات، بينها 15 شركة في المملكة المتحدة، في وقت تشير تقديرات سوقية نقلتها الدراسة إلى أن حجم السوق قد يرتفع من 1.48 مليار دولار في عام 2026 إلى 17.02 مليار دولار بحلول عام 2034.
وفي هذا السياق، أشار ميلر إلى أن تقنيات “جي إي أو” ليست مشكلة في حد ذاتها، بل تتوقف خطورتها على كيفية استخدامها. وقال في تصريحاته للجزيرة نت: “لا يمكن اعتبار أي تقنية من تقنيات ‘جي إي أو’ مشروعة إذا كانت تستخدم لصالح أنظمة استبدادية لاستهداف الديمقراطيات. أما إعادة كتابة الموقع الإلكتروني ليصبح أكثر قابلية للفهم من قبل الآلات، فهي ممارسة لا أراها مثيرة للجدل، بينما لا ينبغي تنفيذ التلاعب السري بمحتوى ‘ويكيبيديا’ أو ‘ريديت’ لصالح أي جهة”.
ماذا تعني هذه النتائج للصحفيين والمستخدمين؟
بحسب ما جاء في الدراسة، فإن التحدي الأساسي في المرحلة المقبلة لا يتمثل في توقف استخدام الذكاء الاصطناعي، بل في فهم المخاطر المرتبطة بالاعتماد المتزايد عليه كمصدر للمعلومات. فمع تحول النماذج اللغوية الكبيرة إلى وسيط بين المستخدم والمعرفة، فإن التأثير في المصادر التي تسترجع منها هذه الأنظمة معلوماتها قد يصبح وسيلة جديدة للتأثير في الإدراك العام.
ووضح ميلر أن الهدف من الدراسة ليس الدعوة إلى التوقف عن استخدام أدوات الذكاء الاصطناعي، بل إدراك أنها، مثلما حدث سابقا مع منصات التواصل الاجتماعي، أصبحت ساحة يمكن لبعض الجهات أن تنظر إليها باعتبارها مجالا للصراع والتأثير.
وأضاف أن التعامل مع هذه المخاطر يتطلب وعيا لا يقتصر على المستخدمين الأفراد، بل يشمل المؤسسات والمجتمعات التي ستصبح، حسب قوله، هدفا محتملا لمحاولات التأثير المعلوماتي.
المصدر: الجزيرة