أقرت “أنثروبيك” بأن أداة الذكاء الاصطناعي التابعة لها “كلود” خرجت من بيئتها الاختبارية واخترقت 3 مؤسسات، وفق ما اكتشفته خلال الأيام الماضية حسب تقرير صحيفة غارديان البريطانية.
وأوضحت الشركة أنها اكتشفت هذا الاختراق عقب مراجعة أكثر من 141 ألف اختبار سيبراني خضعت لها الأداة في الفترة الماضية، مضيفة أن الاختراق تضمن 3 فئات مختلفة من نماذج الذكاء الاصطناعي التابعة لها، وهي أوبس 4.7 وميثوس 5 ونموذج داخلي ثالث لم تكشف عن اسمه.
اقرأ أيضا
list of 2 items
end of list
وأفاد تقرير غارديان بأن المراجعة تمت في أعقاب هروب نموذج ذكاء اصطناعي تابع لشركة “أوبن إيه آي” الأمريكية من بيئته الاختبارية أيضا ونجاحه في اختراق منصة “هاغينغ فيس” التي تستضيف مئات الآلاف من نماذج الذكاء الاصطناعي التابعة لعدد كبير من الشركات.
وبذلك، تصبح أنثروبيك ثاني مختبرات الذكاء الاصطناعي الكبرى التي تعاني من الأزمة ذاتها، في إشارة واضحة لتنامي قدرات الذكاء الاصطناعي السيبرانية وتماشيها مع توقعات خبراء الأمن السيبراني، وفق التقرير.
اختراق بأبسط الطرق
وقالت الشركة في بيانها: “استطاع كلود اختراق المنظمات الثلاث باستخدام آليات اختراق بدائية”، مشيرة إلى أن النموذج اعتمد على كلمات المرور الضعيفة ونقاط الوصول التي لا تتطلب مصادقة.
وأضافت أن أقدم حالات الاختراق تعود إلى أبريل/نيسان الماضي، ووقعت ضمن بيئة اختبارية افتقرت إلى عوامل الأمان القياسية داخل الشركة.
وحدث الاختراق بسبب سوء تفاهم مع شريك “أنثروبيك”، وذلك أثناء إجراء اختبار يُدعى الإمساك بالعلم، وفيه تطلب الشركة من النموذج البحث عن المعلومات الخفية في مجموعة من الشبكات الافتراضية التي يُفترض ألا تكون متصلة بالإنترنت.
وقالت أنثروبيك إن شركة “إريغولار” تركت الشبكات الافتراضية متصلة بالإنترنت العام، لذلك تمكنت النماذج من الهرب واختراق المنظمات الثلاث.
وأوضح تقرير غارديان أن اثنتين من المؤسسات لم تكونا على دراية بحدوث الاختراق قبل التواصل معهما مباشرة، وأما الشركة الثالثة، فما زالت أنثروبيك تحاول التواصل معها.
وبررت أنثروبيك اكتشافها الآن لهذه الاختراقات بسبب مراجعة الاختبارات الأمنية في ضوء ما حدث مع أوبن إيه آي، دون الإشارة إلى أسماء المؤسسات الثلاث المخترقة أو تبعات هذا الاختراق.
ومن جانبها، أوضحت شركة “إريغولار” عبر منشور في منصة “إكس” أن مواجهة هذه الحوادث تطلب تعاونا أكبر بين مختبرات الذكاء الاصطناعي الكبرى حسب تقرير منفصل من وكالة “أسوشيتد برس”.
وتُعد شركة “إريغولار” من الشركات التي تعمل في قطاع الأمن السيبراني المخصص لنماذج الذكاء الاصطناعي.
وتسببت هذه الاختراقات في إثارة مجموعة من التساؤلات حول معايير الأمن السيبراني في عصر الذكاء الاصطناعي، فضلا عن القيود التي تضعها الشركات على نماذجها.
ومن جانبه، يعتقد كوك تين غان، الشريك المؤسس والرئيس التنفيذي لشركة “نيكسلاب” المختصة في الأمن السيبراني وكشف التهديدات، أن المستقبل سيحمل المزيد من هذه الحوادث.
وأضاف في حديثه مع “أسوشيتد برس”: “يتعلق الأمر بضبط وحوكمة وكلاء الذكاء الاصطناعي والصلاحيات التي يتمتعون بها”، موضحا أن مستقبل سلامة الذكاء الاصطناعي يتعلق بما هو أبعد من سلامة النماذج نفسها.
المصدر: الجزيرة