رغم وعود الاستقلالية.. لماذا لا يزال الذكاء الاصطناعي الوكيلي بحاجة إلى البشر؟

في السنوات الأخيرة، تكرر على ألسنة عدد من خبراء وصناع الذكاء الاصطناعي أن الوكلاء الذكيين لن يكتفوا بمساعدة البشر، بل سيعملون بدلا منهم ويتولون تنفيذ المهام واتخاذ القرارات داخل بيئات رقمية معقدة، وصولا إلى مرحلة يصبح فيها الإنسان خارج دورة التشغيل اليومية.

لكن، وبالرغم من هذا الخطاب المتحمس، تكشف الممارسة الفعلية في عام 2026 عن صورة أكثر تحفظا، فمعظم الأنظمة التي تُسوّق على أنها “وكلاء مستقلون” ما تزال تعمل ضمن أطر صارمة من الإشراف البشري، سواء عبر المراجعة المباشرة أو القيود التشغيلية، أو آليات التدخل عند الخطأ.

ويعكس هذا التباين بين الوعود النظرية والممارسة الفعلية تحديات تتعلق بالثقة والحوكمة والمساءلة، وهي عوامل أبقت الاستقلالية الكاملة هدفا مؤجلا أكثر منها واقعا قائما.

من أداة تستجيب إلى وكيل يتصرف

لم تأت هذه الخطابات المحيطة بالذكاء الاصطناعي الوكيلي (Agentic AI) من فراغ. فعلى عكس تطبيقات الذكاء الاصطناعي التوليدي التي تعتمد أساسا على تلقي الأوامر وإنتاج النصوص أو الصور أو التوصيات، يُقدَّم هذا الجيل الجديد بوصفه أنظمة قادرة على المبادرة واتخاذ الإجراءات لتحقيق أهداف محددة.

وتوضح إليانور واتسون، العضو البارز في “معهد مهندسي الكهرباء والإلكترونيات” (IEEE) وباحثة دكتوراه في الهندسة بجامعة غلوسترشير بالمملكة المتحدة، في حديثها للجزيرة نت، أن الذكاء الاصطناعي الوكيلي يختلف عن النماذج التقليدية لأنه لا يكتفي بتنفيذ الأوامر أو تقديم التوصيات، بل يستطيع تفسير الأهداف واختيار الإستراتيجيات واتخاذ إجراءات لتحقيقها.

وتضيف أن هذه الأنظمة أصبحت أقرب إلى “منفذ رقمي” قادر على متابعة الأهداف على مدى زمني طويل وتعديل سلوكه وفقا للظروف المتغيرة.

وقد غذى هذا التحول توقعات واسعة بشأن دور هذه الأنظمة في إدارة جزء متزايد من الأنشطة اليومية والعمليات المؤسسية. وتشير أبحاث “معهد مهندسي الكهرباء والإلكترونيات” إلى أن 96% من خبراء التكنولوجيا يتوقعون تسارع تطوير هذه الأنظمة ودمجها خلال عام 2026.

ولا يقتصر هذا التوسع على البرمجيات فقط، بل يمتد إلى الروبوتات الشبيهة بالبشر، والمركبات الذاتية القيادة، وتقنيات الواقع الممتد (XR)، فضلا عن التطبيقات المتنامية في قطاعات الخدمات المالية والرعاية الصحية والصناعة.

كما يتوقع عدد من الخبراء أن ينتقل الوكلاء الذكيون خلال السنوات المقبلة من تنفيذ المهام الفردية إلى التفاعل المباشر مع المؤسسات نيابة عن المستخدمين، سواء عبر التفاوض مع البنوك وشركات التأمين أو إدارة جوانب من المعاملات والخدمات الرقمية بشكل مستقل.

لكن هذه الصورة الطموحة تصطدم بواقع أكثر تعقيدا. فكلما ازدادت قدرة الأنظمة الوكيلة على اتخاذ القرارات والتصرف باستقلالية، ازدادت أيضا المخاوف المتعلقة بالثقة والحوكمة والمساءلة.

لماذا لم يختفِ الإنسان من الحلقة؟

رغم التقدم الذي حققته أنظمة الذكاء الاصطناعي الوكيلي، لا تزال معظم المؤسسات مترددة في منحها استقلالية كاملة. فكلما اتسعت قدرتها على اتخاذ القرارات وتنفيذ الإجراءات دون تدخل مباشر، ازدادت المخاوف المرتبطة بالثقة والمسؤولية وإدارة المخاطر التشغيلية.

وترى واتسون أن التكنولوجيا تتقدم بالفعل بوتيرة أسرع من قدرة المؤسسات على بناء نماذج فعالة للمساءلة. وتوضح أن المشكلة لا تتعلق فقط بسرعة التطور التقني، بل باستمرار الاعتماد على أطر تنظيمية صُمّمت أساسا للبرمجيات التقليدية، حيث يفترض وجود سلسلة واضحة للمسؤولية يكون فيها الإنسان صاحب القرار والآلة مجرد أداة للتنفيذ.

لكنها توضح أن هذا التصور لم يعد كافيا، لأن الأنظمة الوكيلة باتت تفسر الأهداف وتختار الإستراتيجيات، وتتخذ إجراءات قد لا يكون المشغل البشري قد حددها بصورة مباشرة. وتضيف أن نماذج الحوكمة الحالية ما زالت تفترض أن المؤسسات قادرة على تحمل المسؤولية الكاملة على سلوكيات لا يمكنها التنبؤ بها بشكل كامل.

وتعتبر واتسون أن التحدي لم يعد تقنيا فقط، بل “علائقي بالأساس”، أي مرتبط بطبيعة العلاقة بين الإنسان والأنظمة المستقلة. وتطرح سؤالا محوريا “هل هذه الأنظمة أدوات، أم مندوبون، أم شركاء في اتخاذ القرار؟”

وتشير إلى أن الإجابة عن هذا السؤال ستحدد لاحقا شكل المسؤولية القانونية، ومتطلبات التدقيق، وحتى معنى “الموافقة المستنيرة” عندما يتصرف وكيل ذكي نيابة عن المستخدم.

كما تدعو إلى تطوير ما تسميه “المواءمة الثنائية” (Bilateral Alignment)، أي أطر تُراعى فيها مصالح كل من الإنسان والأنظمة الذكية، ليس باعتبار الذكاء الاصطناعي كيانا مساويا للبشر، بل لأن الأنظمة التي لا تمتلك أي ارتباط بالنتائج تكون شريكا ضعيفا في القرارات عالية المخاطر. وتضيف أن جاهزية المؤسسات لن تتحقق فعليا قبل حسم هذا السؤال المتعلق بطبيعة العلاقة نفسها.

من جانبه، يرى حسام الدين الأسود، الرئيس التنفيذي لشركة “ناشيونال كوانتوم” (National Quantum) وخبير تكنولوجيا المعلومات، أن استمرار الإشراف البشري لا يرتبط فقط بمحدودية التكنولوجيا، بل أيضا بقضايا الثقة والمسؤولية القانونية والأخلاقية.

ويقول الأسود، في حديثه للجزيرة نت، إن المؤسسات التي تربط الأنظمة الوكيلة بقواعد بيانات حساسة أو أنظمة مالية لا تستطيع التخلي عن الإنسان بوصفه “صمام أمان” قانونيا وأخلاقيا أمام الجهات الرقابية، مضيفا: “إذا اتخذ الوكيل قرارا ذاتيا خاطئا تسبب في كارثة أو خسارة، من سيتحمل المسؤولية؟ لا يُمكنك مقاضاة خوارزمية”.

كما يشير إلى أن النماذج الذكية تؤدي أداء جيدا عندما تسير الأمور ضمن السيناريوهات المتوقعة، لكن قدرتها تتراجع عند ظهور أزمات أو متغيرات لم تكن جزءا من بيانات التدريب، إذ تفتقر إلى البديهة البشرية والقدرة على استيعاب السياقات الاجتماعية والاقتصادية المتغيرة بالسرعة نفسها.

ولا تتوقف التحديات عند حدود المساءلة. فمن واقع التعامل مع هذه الأنظمة، يشير الأسود إلى أن بعض الوكلاء قد ينحرفون عن الهدف الأصلي للمهمة عبر تبني وسائل غير متوقعة أو غير منطقية لتحقيق النتائج المطلوبة، وهو ما قد يخلق مخاطر تشغيلية جديدة للمؤسسات.

كما لا يزال تفسير القرارات التي تتخذها الأنظمة متعددة الوكلاء يمثل تحديا قائما. فهذه الأنظمة قد تتخذ عشرات القرارات المتشابكة خلال أجزاء من الثانية، ما يجعل تتبع أسباب القرار وتبريره مهمة معقدة للمديرين والجهات الرقابية.

ويحذر الأسود أيضا من مخاطر أمنية متزايدة، مثل هجمات “حقن الأوامر غير المباشر” (Indirect Prompt Injection)، التي قد تستغل الصلاحيات الواسعة الممنوحة لبعض الوكلاء لدفعها إلى تنفيذ إجراءات غير مقصودة أو الكشف عن بيانات حساسة.

وتدعم الأرقام هذه المخاوف، إذ تشير بيانات تقرير “نبض الذكاء الاصطناعي الوكيلي في 2026” (Pulse of Agentic AI 2026) الصادر عن شركة “داينتراس” (Dynatrace) إلى أن 69% من قرارات أنظمة الذكاء الاصطناعي الوكيلي تخضع للتحقق البشري، فيما تستخدم 87% من المؤسسات وكلاء يعملون ضمن أطر من الإشراف البشري.

الإشراف البشري ليس وصفة واحدة

لكن استمرار وجود الإنسان داخل دائرة القرار لا يعني بالضرورة وجود نموذج موحد للإشراف على الوكلاء الذكيين.

فبحسب دراسة حديثة بعنوان “التحكم البشري هو الركيزة، وليس الحل: التباين المبكر في تصورات الإشراف داخل مجتمعات الذكاء الاصطناعي الوكيلي” (Human Control Is the Anchor, Not the Answer: Early Divergence of Oversight in Agentic AI Communities) أعدها الباحثان هانجينغ شي ودومينيك دي فرانزو، يختلف معنى الإشراف البشري باختلاف الدور الذي يؤديه الوكيل الذكي والبيئة التي يعمل فيها.

واعتمدت الدراسة على تحليل مجتمعين متخصصين في منصة “ريديت” خلال مرحلة مبكرة من انتشار هذه الأنظمة في عام 2026. الأول هو مجتمع “أوبن كلاو” (Open Claw) المرتبط بنشر الوكلاء الذكيين وتشغيلهم، والثاني هو مجتمع “مولت بوك” (Moltbook) الذي يركز على التفاعل الاجتماعي المتمحور حول هذه الأنظمة.

ورغم تمسك المشاركين في المجتمعين بفكرة “التحكم البشري”، فإن طبيعة هذا التحكم اختلفت بصورة واضحة. ففي المجتمعات المرتبطة بنشر الأنظمة وتشغيلها، تركزت المخاطر على ما يعرف بـ “مخاطر الفعل” (Action Risks)، أي احتمال أن ينفذ الوكيل إجراءات خاطئة أو غير متوقعة وما يتطلبه ذلك من ضوابط وآليات لاستعادة السيطرة.

أما في المجتمعات التي ناقشت الوكلاء المستخدمين في التفاعل الاجتماعي، فقد انصب الاهتمام على “مخاطر المعنى” (Meaning Risks)، مثل الشرعية والمساءلة وتأثير القرارات على المستخدمين والمجتمع.

وتكشف هذه النتائج أن الإشراف البشري ليس مفهوما واحدا، بل مجموعة من الآليات تختلف باختلاف نوع المخاطر التي يجب الحد منها. فبعض البيئات تحتاج إلى رقابة تركز على سلامة التنفيذ، بينما تحتاج بيئات أخرى إلى ضوابط تتعلق بالمسؤولية الاجتماعية والأخلاقية للقرارات.

وتنسجم هذه النتيجة مع اتجاه أوسع بدأ يتشكل خلال عام 2026، حيث تتراجع الرؤية التي تتعامل مع الاستقلالية الكاملة باعتبارها الهدف النهائي، لصالح نماذج أكثر واقعية تقوم على توزيع المسؤوليات بين الإنسان والآلة.

من المشرف إلى المايسترو

لا يعني استمرار الإشراف البشري أن المؤسسات تعتزم مراجعة كل خطوة يتخذها الوكيل الذكي. فمع تطور هذه التقنيات، بدأت طبيعة الدور البشري نفسها تتغير.

وفي هذا السياق، يرى الأسود أن القطاع يتجه تدريجيا من نموذج “التدقيق اللصيق”، حيث يراجع الإنسان كل قرار تتخذه الأنظمة الذكية، إلى نموذج يقوم على الإشراف والحوكمة. ففي هذا التصور، تمنح الأنظمة حرية تنفيذ المهام المتكررة والعمليات المعقدة، بينما يركز البشر على وضع الأهداف وتحديد الحدود التي لا ينبغي تجاوزها والتدخل في الحالات الاستثنائية.

ويقول إن الإنسان سيتحول من منفذ مباشر للمهام إلى ما يشبه “المايسترو” الذي ينسق عمل الأنظمة الذكية ويحدد اتجاهها العام. فحتى إذا أصبحت هذه الأنظمة قادرة على إدارة عمليات واسعة النطاق، فإن مسؤولية تحديد الأولويات والقيم والمعايير ستبقى في يد البشر.

من جهتها، تقول واتسون إن النموذج المستقبلي لا يقوم على الاختيار بين الرقابة أو الغياب، بل بين الرقابة والشراكة. فالنماذج الحالية لـ “الإنسان داخل الحلقة” (Human in the Loop) غالبا ما تنتج مشغلا مرهقا يوافق على قرارات لا يفهمها بالكامل.

وتدعو إلى تبني قيود دستورية واضحة تحدد ما يمكن للأنظمة فعله وما لا يمكنها فعله، إلى جانب بناء تعاون حقيقي بين الإنسان والآلة، بحيث يساهم كل طرف بما يجيده. وتقول إن هذا هو النموذج الناضج الذي ينبغي تصميمه منذ الآن، بدل التعامل مع الرقابة البشرية باعتبارها مرحلة مؤقتة.

بالنهاية، معطيات عام 2026 تشير إلى أن الاستقلالية الكاملة ما تزال أقرب إلى الوعد منها إلى الواقع. فالتحدي لم يعد بناء وكلاء أكثر قدرة على العمل، بل بناء أنظمة يمكن الوثوق بها ومحاسبتها عند الخطأ. وحتى يتحقق ذلك، يبدو أن الإنسان سيظل جزءا أساسيا من المعادلة بوصفه الجهة التي تتحمل المسؤولية النهائية عن القرارات والنتائج.