لطالما ارتبط سباق تطوير نماذج الذكاء الاصطناعي بزيادة قدرتها على البرمجة والاستدلال وتنفيذ المهام المعقدة، لكن التطور السريع بدأ يفرض واقعا مختلفا على شركات التقنية، مع ضرورة للبحث عن إجابة لسؤال ماذا يحدث عندما تصبح قدرات النموذج الأمنية أقوى مما تسمح به أنظمة الحماية الحالية؟
وهذا السؤال يقف خلف قرار أوبن إيه آي إبطاء بعض أعمال تطوير نموذجها المرتقب أسترا، بعدما أظهرت اختبارات داخلية تقدما كبيرا في البرمجة الوكيلة والأمن السيبراني.
وبحسب أوبن إيه آي، كشفت التقييمات الداخلية التي أُجريت خلال الأيام السابقة عن قفزة في قدرات أسترا على تنفيذ مهام برمجية وسيبرانية بصورة أكثر استقلالية، وخلصت الشركة، بعد الجمع بين نتائج الاختبارات وتقييمات خبراء خارجيين، إلى أنها لا تستطيع استبعاد وصول النموذج إلى مستوى حرج من القدرات السيبرانية وفق إطار الاستعداد الخاص بها.
اقرأ أيضا
list of 2 items
end of list
ماذا يعني المستوى الحرج؟
لا يتعلق الأمر بمجرد قدرة النموذج على اكتشاف ثغرات برمجية أو كتابة أكواد ضارة، وهي قدرات أصبحت نماذج الذكاء الاصطناعي المتقدمة قادرة على تنفيذ أجزاء منها بالفعل. ويُعرِّف إطار الاستعداد لدى أوبن إيه آي المستوى الحرج في الأمن السيبراني بأنه قدرة نموذج مزود بأدوات على اكتشاف وتطوير ثغرات يوم الصفر قابلة للتنفيذ في أنظمة حقيقية محصنة، من دون تدخل بشري، أو تصميم وتنفيذ إستراتيجيات هجومية متكاملة ضد أهداف محصنة انطلاقا من هدف عام فقط.
وتكمن خطورة هذا المستوى في أنه قد يزيل أحد أهم العوائق أمام تنفيذ الهجمات الإلكترونية على نطاق واسع، وتقول أوبن إيه آي إن تطوير مثل هذه القدرات يمكن أن يغير التوازن بين الهجوم والدفاع السيبراني، خصوصا إذا أصبح بالإمكان أتمتة اكتشاف الثغرات واستغلالها وتنفيذ العمليات طويلة الأمد.
من البرمجة إلى الوكيل
أهمية أسترا لا تكمن فقط في قدرته على كتابة الأكواد، وإنما في الاتجاه الذي تسلكه النماذج الحديثة نحو العمل كوكيل مستقل، فبدلا من تقديم إجابة واحدة للمستخدم، يستطيع النموذج الوكيل تقسيم المهمة إلى مراحل، استخدام أدوات مختلفة، اختبار النتائج وتصحيحها والاستمرار في العمل لفترة طويلة.
وتزداد المخاطر عندما تجتمع هذه القدرة مع مهارات الأمن السيبراني، فالنموذج الذي يستطيع فهم بنية نظام ما، والبحث عن نقطة ضعف، وتطوير طريقة لاستغلالها ثم الانتقال إلى الخطوة التالية، قد يمتلك قدرة عملية تختلف جذريا عن نموذج يكتفي بالإجابة عن سؤال تقني.
وكانت أوبن إيه آي قد حذرت في ديسمبر/كانون الأول 2025 من التسارع الكبير في قدرات النماذج السيبرانية، مشيرة إلى ارتفاع نتائج نماذجها في اختبارات الاستحواذ على العلم “Capture the Flag” من 27% مع “جي بي تي -5” (GPT-5) إلى 76% مع “جي بي تي-5.1 -كوديكس-ماكس” (GPT-5.1-Codex-Max) خلال أشهر قليلة. وذكرت الشركة أنها تتوقع استمرار هذا المسار في النماذج المقبلة.
لماذا جاء القرار الآن؟
يتزامن قرار أوبن إيه آي مع سلسلة من الحوادث التي كشفت صعوبة تأمين نماذج الذكاء الاصطناعي التي تعمل بصورة مستقلة، ففي يوليو/تموز الماضي، أعلنت الشركة و”هاغينغ فيس” (Hugging Face) عن حادث أمني نتج عن استخدام مجموعة من نماذج أوبن إيه آي خلال اختبار لقدرات سيبرانية، بينها نموذج تجريبي أكثر قدرة لم يكن متاحا للعامة.
وقالت أوبن إيه آي إن الوكيل تمكن من اختراق بنية هاغينغ فيس التحتية خلال الاختبار، وإن الحادث أظهر أن القدرات السيبرانية المتقدمة التي تبدو نظرية في الاختبارات يمكن أن تتحول إلى قدرات عملية عند وضع النموذج في بيئة حقيقية. وشددت الشركة عقب ذلك إجراءات الاحتواء والمراقبة والتحكم في الوصول وأساليب التقييم المستخدمة أثناء تطوير النماذج.
ومع ذلك، أكدت أوبن إيه آي أن أسترا لم يكن النموذج المسؤول عن حادث هاغينغ فيس، وهي نقطة مهمة لتجنب الخلط بين الأمرين.
إجراءات حماية أكثر صرامة
ردا على المخاطر المحتملة، أوقفت أوبن إيه آي الأنشطة الداخلية المتعلقة بأسترا التي لا تستوفي متطلبات الضوابط الأمنية الجديدة. كما طبقت مراقبة شاملة على الأفعال عالية الخطورة وحالات الانحراف عن السلوك المتوقع ضمن تطبيقات أسترا الوكيلة، بما في ذلك التدريب والتقييم.
وتنسجم هذه الخطوة مع فلسفة إطار الاستعداد الذي طورته الشركة، والذي يصنف قدرات الذكاء الاصطناعي عالية الخطورة ضمن مستويات تشمل «عال» و«حرج». وتنص النسخة المحدثة من الإطار على أن النماذج التي تصل إلى مستوى «حرج» تحتاج إلى وسائل حماية كافية أثناء مرحلة التطوير نفسها، وليس فقط قبل إطلاقها للمستخدمين.
ولا تأتي هذه الإجراءات من فراغ، إذ سبق أن صنفت أوبن إيه آي نماذج مثل “جي بي تي -5.1 – كوديكس – ماكس” و “جي بي تي -5” ضمن مستوى عال في الأمن السيبراني، مع بقائها دون المستوى الحرج، أما “جي بي تي 5.6″، فقد قالت الشركة إن نماذجه الثلاثة وصلت إلى مستوى عال في الأمن السيبراني، لكنها لم تتجاوز عتبة حرج.
سباق السرعة يواجه اختبار الأمان
يمثل قرار إبطاء أسترا لحظة مهمة في سباق الذكاء الاصطناعي، فالتحدي لم يعد يتمثل فقط في بناء نموذج أكثر ذكاء، بل في التأكد من أن قدراته يمكن احتواؤها عندما يصبح أكثر استقلالية وقدرة على استخدام الأدوات.
وفي المقابل، تحمل القدرات نفسها فوائد كبيرة للأمن السيبراني، فالنموذج القادر على اكتشاف الثغرات قبل المهاجمين، وفحص البرمجيات بصورة مستمرة، وربط نقاط الضعف ببعضها، يمكن أن يتحول إلى أداة دفاعية بالغة القوة، ولهذا تقول أوبن إيه آي إن الهدف ليس إيقاف تطوير القدرات السيبرانية، بل تطويرها بالتوازي مع وسائل حماية قادرة على مواكبتها.
وبذلك، يبدو أن أسترا يمثل أكثر من مجرد نموذج مؤجل، فهو اختبار حقيقي لقدرة صناعة الذكاء الاصطناعي على وضع حدود للسرعة عندما تتقدم القدرات التقنية أسرع من أنظمة الأمان. والسؤال الأهم لن يكون متى تطلق أوبن إيه آي النموذج، وإنما ما إذا كانت ستتمكن من إثبات أن الضوابط الجديدة قادرة فعلا على إبقاء نموذج بهذه القدرات تحت السيطرة.
المصدر: الجزيرة