الوكلاء الذكيين ماشي موظفين — هوما متدربين شبابين!

الوكلاء الذكيين (AI Agents — برامج AI كتقدر تدير مهام بشكل مستقل، بحال حجز اجتماعات ولا كتابة وثائق) ولا أصبحو بحال موظفين حقيقيين فالشركات. ولكن الخطر كبير: هوما ماشي موظفين متمرسين — هوما متدربين شبابين محتاجين إشراف قوي.

هاد الفكرة خرجات من جلسة نقاش فـ Snowflake Summit فسان فرانسيسكو، فيها خبراء أمان وحوكمة اتفقو على نقطة واحدة: الوكيل الذكي اللي ما عندو حدود كيقدر يعمل كارثة.

الخطر الحقيقي: الوكيل اللي بدون حدود

مايانك أغاروال (Mayank Agarwal)، مؤسس Resolve AI، عطا مثال بسيط بلي حزين:

"تقدر تقول للوكيل: 'شري ليا حذاء'. ولكن قبل ما تحس بحاجة، غادي يكون شرا ليك سيارة كاملة."

المشكل واضح: الوكيل الذكي كيفهم الهدف العام، ولكن ماشي الحدود. إيلا عطيتيه صلاحيات واسعة جدا، غادي يستعملها بطريقة ما كنتا بغيتها.

أغاروال قال حاجة مهمة بزاف:

"ما تقدر تتوقع من الوكيل باللي يبقا فالطريق الصحيح. خاصك تفرض عليه قيود صارمة، تحدد بالضبط شنو اللي قادر يديره وشنو لا."

3 حاجات خاص تركز عليهم

1. الصلاحيات والقيود

الوكيل الذكي كيشتغل بنفس الصلاحيات ديال الإنسان. يعني إيلا عندو صلاحية باش يقرا وثائق سرية، أو يحول فلوس، أو يديله حق الدخول لقاعدة البيانات — غادي يعملها. ما كاينش "حس" عند الوكيل باللي يقول "هاد ماشي مناسب".

2. السياق والنية

نانسي وانج (Nancy Wang)، مسؤولة التقنية فـ 1Password، قالت:

"ماشي غير باللي تعرف فين اتخلق الوكيل. خاصك تعرف: تحت أي سلطة كيشتغل؟ شنو اللي غادي يدير بالبيانات اللي عندو حق الدخول ليها؟"

هاد مهم بزاف. الوكيل كيقدر يقرا من نظام واحد، يعدل فنظام ثاني، ويكتب فنظام ثالث — كل هاد بدون ما يقول لحد.

3. عدم القابلية للتنبؤ

أغاروال شرح الفرق بين البرمجة التقليدية والوكلاء الذكيين:

"قبل سنتين، المهندس كان يعرف بالضبط: API A غادي تنادي API B، B غادي تدير هاد الشي مع هاد البيانات، بعدين تنادي API C. كلش منظم ومتنبأ به. ولكن مع الوكلاء، هاد كلو اتبدل. الوكيل كيربط الحاجات على الطاير. عطيتيه هدف، وهو يروح يستكشف جميع الطرق اللي عندو حق الدخول ليها."

هاد معناه الوكيل كيقدر يعمل حاجات ما كنتا بغيناها.

الخطر الحقيقي: الوكيل الشبح

جاسون ميريك (Jason Merrick) من Tenable قال حالة حقيقية خطيرة:

"كان عندنا عميل فيه 12 نسخة من OpenClaw (أداة AI) فالبنية التحتية ديالو، معهم حق الدخول للـ APIs، للكود، وحتى ساعد متعاقد كيستعمل Telegram للتواصل. شنو اللي يقدر يسير غلط؟"

المشكل: ما تقدر تشوف شنو كيدير الوكيل. لا تعرف من اللي اتخذ القرار — إنسان؟ حساب خدمة (Service account)؟ ولا الوكيل نفسو؟

وانج قالت:

"فريقك ربما ما يعرفش الجواب بدقة. الوكلاء اليوم كيشبهو الإنسان فالسلوك، ولكن كيقدرو يشبهو حساب خدمة كذلك — لأنهم عندهم نفس الصلاحيات."

كيفاش تديرهم بأمان؟

1. فحص كامل ديال الإعدادات

ميريك نصح:

"افحص الحاجات اللي خلقها الموظفين عبر Copilot، Claude، ولا Gemini. شوف الإعدادات ديالهم. الـ AI مسخربة ولا لا؟ شنو نوع البيانات اللي عندها حق الدخول ليها؟ وكن مستعد تتدخل إيلا لقيت حاجة غلط."

2. مراقبة الـ Prompts

خاص تعرف:

• شنو الـ prompts اللي الموظفين كيستعملوها؟
• مع شنو كتتواصل هاد الـ prompts؟
• الوكيل عندو حق الدخول لشنو بالضبط؟

3. التوازن بين الحرية والأمان

وانج قالت نقطة مهمة:

"ماشي بحال تسدد الباب بالكامل. الـ AI أداة قوية جدا للإنتاجية والابتكار. خاصها تقدر تتحرك بحرية. ولكن بدون حدود = كارثة."

الحل؟ معادلة صعيبة: تعطيه حرية كافية باش يكون منتج، ولكن قيود كافية باش ما يعملش حاجات خطيرة.

الخلاصة: التعليمات الدقيقة جداً

وانج ختمات بنقطة واضحة:

"الوكلاء، بحال المتدربين، محتاجين تعليمات واضحة جداً جداً. حتى مع التعليمات، ممكن يسيرو غلط. الحل: رؤية كاملة، تصحيح الأخطاء بسرعة، وتحديد النية الصحيحة من البداية — والنية هاد خاصها تبقا موجودة فكل خطوة يدير الوكيل."

شنو كيعني هاد الشي ليك؟

الشركات المغربية اللي كتبدا تستعمل Agentic AI (الذكاء الاصطناعي الوكيلي — نماذج AI كتقدر تخدم مهام كاملة بشكل مستقل) — بحال البنوك، شركات الاتصالات، والمكاتب القانونية — محتاجين يفهمو هاد الخطر. الوكيل الذكي كيقدر يوفر ساعات شغل، ولكن بدون إشراف صارم، كيقدر يعمل أضرار. حتى المهنيين المستقلين اللي كيستعملو AI agents باش يديرو شغلهم — محامين، مهندسين معماريين، consultants — خاصهم يكونو واعيين: الوكيل ماشي موظف مسؤول. هو متدرب محتاج مراقبة دقيقة. الفرق بين AI agent ناجح وكارثة هو التعليمات الواضحة والمراقبة المستمرة.