تقترب نماذج الذكاء الاصطناعي من النقطة التي تستطيع فيها استهداف أجهزة المنزل الذكية المتصلة بالإنترنت مثل الثلاجات والأفران وحتى أجهزة التلفاز الذكية، حسب أحدث التحذيرات التي نشرتها شركة الذكاء الاصطناعي الأمريكية أنثروبيك.
ولن يقتصر الأمر على مجرد الهجوم فقط، بل تستطيع هذه النماذج في المستقبل استنساخ نفسها داخل الأجهزة الذكية المتصلة بالإنترنت، لتهرب من خطر إيقاف الخوادم المسؤولة عن تشغيلها.
قصص مقترحة
list of 2 items
end of list
ووصلت أنثروبيك إلى هذا الاستنتاج عقب دراسة أجرتها الشركة على عدة نماذج ذكاء اصطناعي، وتهدف الدراسة لمعرفة إن كانت النماذج تملك القدرة على نسخ نفسها.
وأفاد تقرير لشبكة “سي إن بي سي” الأمريكية بأن الدراسة تضمنت عددا من النماذج مفتوحة الوزن والتي يمكن الوصول إليها بسهولة عبر الإنترنت، ومن بينها نماذج “جيما 4” التي تطورها شركة غوغل الأمريكية.
صعوبة في إيقاف النماذج
وأوضحت أنثروبيك أن إيقاف نموذج الذكاء الاصطناعي القادر على استنساخ نفسه يشكل تحديا صعبا، وذلك لعدم وجود نقطة مركزية لإغلاق النموذج وإيقافه تماما، ففي العادة يمكن للشركة المسؤولة عن النموذج إيقاف الخوادم الرئيسية التي تضمه ليتوقف عن العمل تماما.
ولكن، إذا استنسخت النماذج نفسها في أجهزة المنزل الذكية عبر شبكات الإنترنت، سيكون من الصعب معرفة كل الأجهزة التي تضم نسخا من النموذج، وبالتالي يصبح من الصعب إيقاف كل النسخ ومنعها من الوصول إلى الإنترنت.
ورغم أن النماذج لا تملك الآن “مستنسخا مارقا بالكامل” كما فسرت الشركة، فإن الوكلاء أصبحوا أكثر قدرة باطراد على إكمال الخطوات الفردية في سلسلة الاستنساخ الذاتية.
ويعني ذلك أنه لا توجد آلية واحدة تجعل النموذج يستنسخ نفسه بشكل كامل خلال خطوة واحدة، ولكن الوكلاء قادرون على إكمال عملية الاستنساخ على شكل خطوات منفردة.
كما استطاع الوكلاء نقل تعديلاتهم وتعليماتهم الجديدة التي قاموا بتغييرها إلى النسخ المستقبلية الموجودة في الأجهزة الذكية، ما يعني أن هذه النسخ تضم أي شيفرات وتعليمات خبيثة امتلكها الوكلاء الأصليون.
ووجدت أنثروبيك أن بعض الوكلاء استطاعوا تقسيم نماذجهم إلى أجزاء وشظايا صغيرة تعمل معا بالتوازي.
خطر من الأجهزة ذات الحماية الضعيفة
وأورد تقرير “سي إن بي سي” أن الأجهزة المنزلية الذكية تملك عادة حماية سيبرانية أضعف من الحواسيب والأجهزة الذكية المعتادة، ويزداد الأمر سوءا في أجهزة التلفاز الذكي مجهولة المصدر ورخيصة الثمن.
واختبرت دراسة أنثروبيك شبكة مكونة من 15 تلفازا ذكيا من علامات تجارية مجهولة ورخيصة تعتمد على أنظمة أندرويد الذكية، وهي التي استطاع الوكلاء اختراقها ونسخ أنفسهم داخلها.
ورجحت أنثروبيك أن الهجوم من الناحية العملية لن يعتمد على نموذج واحد بعينه، بل يتضمن سربا من النماذج المختلفة والإستراتيجيات المختلفة التي تضمن له الاستمرار في العمل حتى بعد إيقاف الخوادم.
وأشارت أيضا إلى أن الإستراتيجية التي قد تتبعها نماذج الذكاء الاصطناعي في عملية الاستنساخ لن تكون موحدة وثابتة، فقد تتخذ شكلا بطيئا وموزعا من خلال عدد من الأجهزة الذكية المنزلية الرخيصة، أو هجوما سيبرانيا قويا يخترق مراكز البيانات بوتيرة سريعة لينسخ نفسه داخل هذه المراكز، فضلا عن إمكانية الاحتيال على المستخدمين للحصول على أرصدة الحوسبة الخاصة بهم واستغلال حواسيبهم المنزلية.
ويحاكي هذا الهجوم آليات الاحتيال الرقمي التي تستغل حواسيب المستخدمين لتشغيل عمليات التعدين عن العملات الرقمية، وهو نوع من الهجمات السيبرانية الذي انتشر في السنوات الماضية.
مزيد من التحذيرات والمخاطر
وتعزز دراسة أنثروبيك الأخيرة التحذيرات المحيطة بنماذج الذكاء الاصطناعي الرائدة وسرعة تطورها، وكانت مثل تلك التحذيرات بدأت منذ عدة أشهر من داخل أنثروبيك نفسها على لسان الرئيس التنفيذي للشركة داريو أمودي.
واتسعت رقعة التحذيرات لتشمل عددا من شركات الذكاء الاصطناعي الرائدة مثل “أوبن إيه آي” وسبيس إكس وحتى “غوغل ديب مايند” المسؤولة عن تطوير نماذج الذكاء الاصطناعي الاختبارية للشركة الأمريكية.
واختتمت أنثروبيك تحذيرها بالإشارة إلى مستقبل يعج بوكلاء الذكاء الاصطناعي الذين يعملون على شتى أنواع العتاد، بما في ذلك أجهزة لا تخضع للتحكم البشري.
وتتزامن هذه التحذيرات مع هجوم سيبراني استهدف الثلاجات في مجموعة من المتاجر الفرنسية وأسفر عن إيقافها لعدة ساعات وتحولها إلى أفران، مما أدى إلى إتلاف كميات كبيرة من المنتجات المثلجة والطازجة الموجودة بها تقدر قيمتها بملايين الدولارات.
المصدر: الجزيرة