هل أخبرت روبوت دردشة بمعلومات أو أسرار شخصية؟ هل أجريت جلسات “علاج نفسي” مع نموذج ذكاء اصطناعي؟ إذا كانت الإجابة بنعم، فلست وحدك، إذ إن هناك عدداً متزايداً من الأشخاص الذين يستخدمون “تشات جي بي تي” على سبيل المثال، للحصول على نصائح في أمور شخصية وكأداة للعلاج، وفق سام ألتمان المدير التنفيذي لشركة أوبن إيه آي OpenAI صاحبة روبوت الدردشة الشهير. لكن هل فكرت يوماً فيما إذا كانت هذه المحادثات خاصة لا يمكن أن يطلع عليها غيرك، أو إذا كانت تشكل مساحة آمنة؟
الإجابة بالنفي، وفق تصريحات أدلها بها ألتمان مؤخراً وأشار فيها إلى أنه إذا تحدث المستخدم مع “تشات جي بي تي” عن أمور شخصية بالغة الحساسية، ثم كانت هناك دعوى قضائية ضده، فإن الشركة من الممكن أن تُلزَم بتقديم تلك المحادثات.
تصريحات ألتمان تثير أسئلة مهمة تتعلق بخصوصية البيانات واحتمال تسربها أو إساءة استخدامها، والمخاطر السيبرانية التي تنتج عن تزويد روبوتات الدردشة بمعلومات حساسة.
تحدث العديد من خبراء الأمن السيبراني عن أن ذلك يشكل مشكلةً أمنيةً كبيرة لأنه يمكن تتبع المحادثة بسهولة إلى حسابات على وسائل التواصل الاجتماعي من خلال أسماء المستخدمين أو صور البروفايل الخاصة بهم.
في وقت سابق من الشهر الحالي، وفي مثال آخر على مخاطر افتراض أن محادثات الذكاء الاصطناعي تتمتع بالسرية، سُربت محادثات مع “تشات جي بي تي” إلى محرك البحث “غوغل”، بعضها يحتوي على مواد حساسة مثل مناقشات تتعلق بمضاربات في البورصة وتفاصيل شخصية واعترافات عاطفية أو قانونية.
حدث ذلك بسبب خاصية المشاركة “Share” التي تسمح للمستخدمين بإنشاء رابط يتيح للآخرين الاطلاع على المحادثة. أثناء المشاركة، كان هناك خيار “Make this chat discoverable” الذي إذا تم تفعيله، فإن الرابط يصبح قابلاً للفهرسة على محركات البحث مثل “غوغل”، ومن ثم يظهر في نتائج البحث. وقد دفع ذلك شركة “أوبن إيه آي” إلى التخلص من هذا الخيار، كما قالت إنها تعمل على إزالة المحادثات من محركات البحث.
كما يلفت الدكتور فيل إلى أن “أحد أبرز الصعوبات هي أن بعض روبوتات الدردشة، كتلك الموجودة على أجهزة غوغل أو أبل، مدمجة في نظام التشغيل وكل ملفاتك ورسائلك الموجودة عليه”.
خبير القانون الرقمي يشرح قائلا إنه “من الصعب جداً فهم ما سيحدث لتلك البيانات. والمخاطر الأمنية لهذا الدمج كبيرة، لا سيما عندما تعطى ربوتات الدردشة القدرة على الدخول على شبكة الإنترنت أو التفاعل معها، إذ إن هذا قد يؤدي إلى تسريب المعلومات من جهازك إلى مواقع أخرى”.
هل يمكن أن تتعرض روبوتات الدردشة للقرصنة؟
قد تتعرض روبوتات الدردشة لما يعرف بـ”هجمات حقن الأوامر” “prompt injection attacks”، وهي نوع من الهجمات السيبرانية التي تشمل إدخال بيانات أو أوامر خبيثة لنموذج الذكاء الاصطناعي بغرض الحصول على بيانات حساسة أو وثائق خاصة يحتفظ بها ذلك النموذج.
كما أن “الشركة [المشغلة للروبوت] نفسها من الممكن أن تتعرض للقرصنة، لكن هذا يكون أحياناً أقل إثارة للقلق عندما يتعلق الأمر بشركات تكنولوجيا كبرى، مقارنةً بتسريب حساب فردي. ومع ذلك، فإن العديد من الأنظمة يتم دمجها بشكل متزايد مع خدمات أطراف ثالثة، ومثل هذا الأمر اعتاد تاريخياً أن يجعل البيانات شديدة القابلية للتسريب ومعرضة للاختراق”، على حد قول الدكتور فيل.
“إذا ذهبت للتحدث مع تشات جي بي تي عن أكثر أمورك حساسية، ثم كانت هناك دعوى قانونية مقامة ضدك أو شيء من هذا القبيل، فإننا قد نجبَر على تقديم تلك البيانات، وأعتقد أن هذا أمر غير سليم على الإطلاق”، هكذا قال سام ألتمان خلال ظهوره في أحد حلقات بودكاست صانع المحتوى الرقمي “ثيو فون” في أواخر يوليو/تموز.
في الوقت الحالي، يمكن لجهات إنفاذ القانون أن تطلب بيانات تتعلق بالمستخدمين أنفسهم أو بمحتوى محادثاتهم مع نماذج الذكاء الاصطناعي.
وتكشف تقارير “أوبن إيه آي” عن زيادة في عدد الطلبات التي تتلقاها من جهات إنفاذ القانون وغيرها من الوكالات الحكومية للحصول على بيانات المستخدمين، لإدراك “الشرطة ووكالات الاستخبارات أنها مصدر قيّم للمعلومات التي تتعلق بما يفعله الناس على أجهزة الكمبيوتر الخاصة بهم”، على حد قول الدكتور فيل.
كيف نحمي خصوصيتنا؟
تقول خبيرة الأمن السيبراني إيفا غالبرين إن شركات الذكاء الاصطناعي لا تتخذ إجراءات كافية لحماية خصوصية المستخدمين، خاصةً عندما لا يدرك الأشخاص أن محادثاتهم قد تخَزن أو يراجعها بشر.
النصيحة التي يقدمها كل من فيل وغالبرين لمستخدمي روبوتات الدردشة بسيطة للغاية: عدم إعطائها أي بيانات يفضلون أن تظل خاصة وألا تكون متاحةً للعامة، “وخاصةً إذا كانوا لا يفهمون إعدادات الخصوصية للنظم التي يستخدمونها، أو إذا كانوا لا يرغبون في المجازفة بوضع ثقتهم في تلك الشركات”.
يتحدث الكثير من خبراء الأمن السيبراني عن توخي الحذر فيما نشارك به روبوتات الدردشة من بيانات ومعلومات، ومن بين الأشياء المشتركة التي يقول هؤلاء أن المستخدم لا ينبغي أن يعطيها لتلك الروبوتات:
لا شك أن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي أصبحت تلعب دوراً كبيراً في الحياة اليومية للكثيرين في شتى بقاع العالم، فعدد المستخدمين النشطين ل”تشات جي بي تي” وحده بلغ ما بين 700 إلى 800 مليون مستخدم في الأسبوع وفق أحدث التقديرات. هذه الأدوات من الممكن أن تكون قيمة للغاية، لكنها ليست “مساحات آمنة” للبوح بالأسرار.
وما بين التسريبات المحتملة للمحادثات وتهديدات القرصنة واحتمال استخدام “دردشاتنا” في قاعات المحاكم، يتبين أن الخطوط الفاصلة بين ما هو خاص وما هو عام ليست بالوضوح الذي قد يتصوره البعض. من هنا تبرز أهمية فهم إعدادات الخصوصية لنموذج الذكاء الاصطناعي الذي نستخدمه، وعدم إعطائه أي معلومات شخصية أو حساسة. في نهاية المطاف نحن نتعامل مع أدوات توصف طريقة عملها بأنها “كالصندوق الأسود”، وتوصف هي نفسها بأنها “ثقب أسود للخصوصية”.