الـ AI Act والموارد البشرية: اختبار حقيقي لنضج الشركات المغربية رقميا

ملي دخلات أدوات الذكاء الاصطناعي (AI) فعمليات الموارد البشرية — التوظيف، تقييم الأداء، إدارة المسارات الوظيفية — كشفات حقيقة مرة: معظم الشركات ماعندها حكم على بيانتها. هاد الشي ولا خطير بزاف ملي دخلات الـ AI Act (القانون الأوروبي للذكاء الاصطناعي) حيز التنفيذ فشتنبر 2026.

السؤال الحقيقي ماشي "واش نستعملو AI فالموارد البشرية؟" — الجواب هو أيه. السؤال الخطير هو: "واش حنا مسؤولين قانونيا على هاد الأداة ولا المزود (Provider) ديالها؟"

فرق بين الاثنين؟ ملايين الدراهم من الغرامات، وسجن ممكن.

الفخ الحقيقي: من مستعمل لمزود

الـ AI Act كيصنف أدوات الموارد البشرية كـ "استعمالات عالية الخطورة" (High Risk). معظم الشركات كتفكر بلي شراء حل جاهز من السوق كيخليها آمنة. هاد التفكير غلط تماما.

هاد الخطأ كيكمن فشي حاجة تقنية بسيطة لكن قانونيا كارثية. إيلا عدلات الشركة على الأداة — حتى تعديل صغير — بدون موافقة المزود، تبقا "مزودة" قانونيا، وليس مستعملة. والفرق كبير بزاف:

المستعمل (Deployer): كيستعمل الأداة كما هي، مسؤوليته محدودة.

المزود (Provider): كيحمل مسؤولية كاملة — توثيق تقني، اختبارات أمان، علامة CE، نظام إدارة الأخطار. كل شي.

التعديلات اللي كتخليك تبقا مزود:

• Fine-tuning (التدريب التخصصي — تخصيص النموذج على بيانات معينة باش يكون أحسن فمهمة معينة)
• إعادة تدريب النموذج على بيانات داخلية ماكانش مخطط ليها
• تغيير الاستعمال الأصلي ديال الأداة
• ربط الأداة بقواعد بيانات جديدة بشكل عميق

هاد الفخ كبير بزاف لأن الشركات كتفكر بلي التعديلات الصغيرة "ماشي مهمة". غلط. القانون ماشي كيقول "تعديل كبير" — كيقول "تعديل مادي" (Substantial Modification). وهاد الكلمة كتشمل حتى التعديلات الصغيرة إيلا كانت كتغير السلوك ديال النموذج.

الدرس من المحاكم والغرامات

القضاء الأوروبي بدا يعطي إشارات واضحة:

قضية Deliveroo بـ بولونيا (2020): خوارزمية كانت كتعاقب الدراجين على الغيابات بدون ما تحسب الحق فالإضراب أو المرض. النتيجة: تمييز منهجي قانوني.

غرامة هولندية (2021): 2.75 مليون يورو على نظام كان كيصنف الناس بناءً على الجنسية المزدوجة.

تمييز فالتوظيف: أدوات اختيار المرشحين كانت كتعيد إنتاج التمييز على أساس الجنس والعمر، لأنها كتعلمات على بيانات تاريخية ما كانش منظفة.

الخطر الحقيقي؟ الموارد البشرية ليست قطاع تقني — هي قطاع قانوني وعاطفي. إيلا الخوارزمية كتعطي توصيات غير عادلة، الشركة مسؤولة قانونيا عن التمييز. وفي فرنسا والمغرب، التمييز جريمة.

زيد على هاد الشي: إيلا مدير كان كيكليك بلا تفكير على توصية الآلة، والقرار كان جائر، المحكمة غادي تقول "ماكاينش إشراف إنساني حقيقي". وهاد الشي كيخسر الشركة.

7 خطوات للحماية (ولا الشركة تاع مزود)

1. خريطة جميع أدوات الـ AI فالموارد البشرية

أول حاجة: اعرفو أين أنتو. كلش أداة AI كتستعملوها — مباشر ولا بشكل غير مباشر — خاصها تدخل فهاد الخريطة:

• التوظيف والاختيار
• تقييم الأداء
• إدارة الحوافز
• جدولة المناوبات
• حتى الـ Chatbots البسيطة ديال الترحيب بالمرشحين

ولا تنساو الـ Shadow AI: الأدوات غير الرسمية اللي الموظفين كيستعملوها بدون موافقة — ChatGPT، Copilot، حتى الـ Excel مع صيغ AI.

2. صنفو الأدوات حسب مستوى الخطورة

خطورة عالية جدا (يجب الامتثال الكامل):

• أدوات الاختيار والتوظيف
• تقييم الأداء
• إدارة العقود والفصل

خطورة متوسطة (شفافية مطلوبة):

• Chatbots الترحيب
• أدوات التحليل الأساسية

خطورة منخفضة:

• كتابة نماذج العروض الوظيفية
• ترجمة الوثائق

3. الأهم: منع التعديلات (Fine-tuning)

هاد الخطوة كتحدد كل شي. الـ IT (تقنية المعلومات) خاصها تعمل "حاجز أمان" تقني (Guardrail) صارم:

منع إعادة التدريب: الفصل الكامل بين استعمال النموذج (Inference — استخدام النموذج لإعطاء إجابات) وبين أي قدرة على تعديل النموذج نفسو. الموظفين يقدرو يستعملو الأداة، لكن ماحدش يقدر يعديها.

استعملو RAG بدل Fine-tuning: إيلا خاصكم تربطو الأداة ببيانات داخلية (مثلا: سياسات الشركة، قانون الشغل الداخلي)، استعملو RAG (التوليد المعزز بالاسترجاع — تقنية كتخلي الـ AI يقرا وثائق خارجية قبل ما يجاوب باش يكون أدق).

الفرق بسيط لكن حاسم:

• RAG: الأداة تقرا الوثائق في اللحظة، بدون ما تتعدل. أنتو بقيتو "مستعملين".
• Fine-tuning: تعديل داخلي للنموذج. أنتو بقيتو "مزودين". خطر!

4. تسجيل كل شي (Logging)

خاصكم نظام تسجيل كامل وغير قابل للتعديل:

• البيانات اللي دخلت للنموذج
• النتائج ديالو
• القرار النهائي ديال الإنسان
• التاريخ والوقت

هاد السجل هو "إثبتك" أمام القضاء أو المفتشين. إيلا جات مفتشة من وزارة الشغل أو جمعية حقوقية، تقدر تقول: "هاد كل شي مسجل، ومافيش تعديل على النموذج".

5. لجنة مراقبة داخلية ("AI Clearing")

أي أداة AI جديدة في الموارد البشرية ماخاصش تدخل بدون موافقة لجنة داخلية تشمل:

• تقنية المعلومات: تتأكد ماكاينش تعديل على النموذج
• الشؤون القانونية والـ DPO (مسؤول حماية البيانات): تتأكد من احترام القانون
• الموارد البشرية: تتأكد من احترام قانون الشغل

هاد اللجنة كذلك خاصها تقدم للـ CSE (لجنة الموظفين) شرح واضح على كيفاش الأداة كتخدم وكيفاش الإنسان كيبقا في التحكم.

6. عقود جديدة مع المزودين

العقود القديمة "استعملو كما هو" (As Is) ماشي كافية. خاصكم تفاوضو على:

حد واضح للاستعمال: وثيقة تقول بالضبط كيفاش غادي تستعملو الأداة، والمزود يوافق كتابيا بلي هاد الاستعمال هو المقصود (Intended Purpose).

منع التعديل: أي تعديل على النموذج يجب أن يكون من طرف المزود نفسو، ماشي من طرفكم. هاد الشي كيخليه هو المسؤول، وليس أنتو.

حماية قانونية: إيلا الأداة طلعت غير متوافقة مع القانون بعد ما استعملتوها، المزود كيكون مسؤول عن الغرامات والأضرار.

7. تدريب المديرين على "عدم الثقة العمياء"

الإشراف الإنساني (Human Supervision) ماشي معناه "كليك بدون تفكير". معناه:

• المدير يفهم حدود الخوارزمية
• يكتشف التحيزات المحتملة
• يكتب تبرير مكتوب لقراره (لماذا قبل أو رفض توصية الآلة)

إيلا الآلة قالت "أفضل 3 مرشحين" والمدير قال "لا، أنا بدي الرابع"، خاصو يكتب في السجل: "السبب: المرشح الأول عنده خبرة أقل في المجال X، والمرشح الرابع عنده شهادة إضافية مهمة".

هاد التبرير هو اللي كيحميك قانونيا.

شنو كيعني هاد الشي ليك؟

الشركات المغربية الكبرى — خاصة البنوك، شركات الاتصالات، والمؤسسات الحكومية — غادي تكون ملزومة بتطبيق الـ AI Act إيلا كانت كتخدم أدوات AI في الموارد البشرية. الشركات اللي ماتحضرش دابا غادي تواجه غرامات كبيرة وقضايا تمييز. حتى المهنيين المستقلين — استشاريين الموارد البشرية، محامين متخصصين في قانون الشغل — غادي يكون عليهم طلب كبير باش يساعدو الشركات على الامتثال. والمطورين المغاربة اللي عندهم خبرة فـ AI والقانون غادي يكونو مطلوبين بزاف. هاد مجال جديد كامل فالسوق، والأول اللي يدخل غادي يربح الأكثر.