قبل النموذج: بناء السلسلة ديال الثقة فالذكاء الاصطناعي المسؤول

النموذج وحده ماشي كافي

ملي دخلت الـ AI التوليدية (Generative AI — نوع من AI كيخلق محتوى جديد بحال نصوص وصور) للشركات، بدا البحث عن الإجابة السهلة: واش نستعملو نموذج سيادي (Sovereign Model) أوروبي، ولا نموذج مفتوح المصدر (Open source)، ولا نروحو للمنصات الأمريكية الكبرى بحال OpenAI و Google؟

السؤال منطقي على السطح — كاين مخاوف حقيقية حول الاعتماد التقني، السيطرة على البيانات، والمراجعة (Audit). ولكن المشكل: هاد السؤال ناقص بزاف.

شركة تقدر تختار نموذج "أسهل للتحكم فيه" وماتقدرش تدير نظام AI مسؤول. والعكس صحيح: تقدر تكتب شارتات أخلاقية وتخلق لجان تحقق، وفي نفس الوقت عندها ثقوب كبيرة فالبيانات ديالها، الـ APIs، الصلاحيات، ولا البنية التحتية.

الحقيقة بسيطة: مسؤولية نظام AI ماشي غير على النموذج اللي كيجاوب. كاينة على كل شي اللي كيخليه يجاوب.

السلسلة الحقيقية ديال الثقة

الثقة ماشي كتبدا فالواجهة ديال الأداة. كتبدا قبل هاك بكتير — فالبيانات ديالك، المراجع (Referential)، المعاملات (Metadata)، قواعد الولوج (Access rules)، وكيفاش كتتحرك البيانات بين التطبيقات.

AI متوصول على بيانات قديمة، مشتتة، ولا سيئة الجودة — تقدر تجاوب جواب يبدو صحيح من برا، ولكن داخليا واهي وضعيفة.

هاد الحقيقة كتعني حاجة واحدة: قبل ما تفكر فالنموذج، خاص تحكم البيانات ديالك.

البيانات: الأساس الأول ديال الثقة

الـ EU AI Act (القانون الأوروبي الجديد للـ AI) جاب منطق جديد: مسؤولية النظام ماشي غير على مستوى الخوارزمية (Algorithm). كاينة على مستوى الخطر (Risk level)، الشفافية، الحكم (Governance)، والالتزامات الخاصة بالأنظمة عالية الخطر.

ابتداء من 2 غشت 2026، كاينة التزامات جديدة ديال الشفافية: إيلا كان عندك نظام AI كيتفاعل معاه الناس، ولا كيعرضهم لمحتوى مولد ولا معدل بـ AI، خاص تعلمهم بلي هاد الشي AI.

هاد التحول مهم بزاف للـ DSI (Chief Information Officer)، RSSI (Chief Security Officer)، وفريق البيانات. السؤال الجديد: "النموذج ديالي كيشتغل فشنو الوسط؟ شنو البيانات اللي عندو الولوج ليها؟ شنو القرارات اللي كيتأثر بيها؟ وشنو الحجج اللي تقدر نقدمها إيلا سولوك الحكومة أو سولوك محامي؟"

الـ APIs والصلاحيات: الحلقات الضعيفة

واحد الشركة عندها نموذج AI قوي، ولكن الـ API ديالها ماشي محمي كويس — كل شي يقدر يدخل ويقرا البيانات. هاد مشكل كبير.

أو مثال ثاني: موظف عندو صلاحيات على وثائق سرية، والـ AI كيستعملو هاد الموظف باش يقرا الوثائق ويجاوب على الأسئلة. هاد خطير: الـ AI كيوسع نطاق الولوج.

الحل؟ حكم البيانات الحقيقي — يعني:

• فهم شنو البيانات اللي عندك
• تحديد شنو اللي حساس وشنو اللي لا
• تحديد شنو الـ APIs اللي تقدر تعرض البيانات
• التحكم فالصلاحيات: شنو اللي كل نموذج AI يقدر يقرا
• المراقبة المستمرة: شنو اللي كيتحرك فعلا

العملية: الحلقة الناقصة

فالنقاشات حول الـ AI، العملية (Process) كتبقا فالخلفية. ولكن هاد فيها المشكل: العملية هي المكان اللي فيه التوصية كتولي فعل حقيقي.

نموذج AI يقدر يقول: "هاد الخطر عالي"، ولا "هاد الشي غير عادي"، ولا "بغينا نديرو هاك". ولكن بعد هاك؟ شنو اللي كيحصل؟

• شنو اللي كيتحقق من الجواب؟
• شنو القاعدة اللي كتحكم التحقق؟
• شنو مستويات التصعيد (Escalation)؟
• فين كتدخل الإنسان وتاخد القرار النهائي؟

هاد الأسئلة تبدو عادية، ولكن هاد قلب الـ AI المسؤول.

شركة بدون عملية واضحة تقدر تقول: "عندنا نموذج AI مسؤول". ولكن إيلا سولتها: "شنو البراهين ديالك على هاد الجواب؟" — ماغاديش تقدر تجاوب. هاد مشكل.

الحكم الحقيقي ديال العمليات كيخلي الـ AI يرجع للواقع. يعني:

• كل خطوة واضحة ومسجلة
• كل واحد عارف المسؤولية ديالو
• كاينة قواعد للقرارات الصعبة
• كل شي موثق

الأمان والبنية التحتية: الحصن الأخير

مسؤولية الـ AI ماتنتهيش عند البيانات والعمليات. كاينة كذلك على مستوى الأجهزة والخوادم (Infrastructure) اللي كتشغل النموذج.

وهاد مهم بزاف للامتثال (Compliance): ماشي كافي تقول "عندنا سياسة أمان". خاص تثبت:

• السياسة ديالك كتشتغل فعلا
• كتبقا تشتغل كل يوم
• إيلا كاينة مشاكل، كتلقاهم بسرعة وكتصلحهم

فنظام IT موزع، هجين (Hybrid)، ومتغير كل يوم — هاد ماشي ممكن بدون أتمتة الأمان (Security Automation).

الفكرة بسيطة: بدل ما تتفقد الأمان يدويا كل شهر، خليت نظام كيتفقد كل دقيقة. إيلا كاينة مشكلة، النظام كيعرفك وكيصلح الشي بشكل أوتوماتيكي.

هاد كيعني:

• كل سياسة أمان كتولي "حالة" كيتحقق عليها النظام
• كل انحراف (Deviation) كيتسجل
• كل تصحيح كيتوثق
• عندك براهين دائما باش تعطيها للمراجعين والمحققين

من الأقوال للأفعال: البراهين ديال الثقة

شركات كتكتب "مبادئ أخلاقية" وتخلق "لجان تحقق" منذ سنين. هاد الأشياء ضرورية — كتعطي اتجاه وتخلق لغة مشتركة بين الفريقات.

ولكن ماشي كافي دابا.

الـ AI المسؤول كيتطلب مرحلة جديدة:

• من الأقوال للأفعال: المبادئ خاص تولي قواعد فالأنظمة
• من الأنظمة للبراهين: القواعس خاص تخلق سجلات وشواهد
• من الشواهد للثقة: الشواهد هي اللي كتعطي الثقة الحقيقية

هاد الانتقال بطيء وممل — ماشي مثير بحال نموذج AI جديد. ولكن هاد أهم بكتير.

AI سيادية (Sovereign) يعني: الشركة عندها إجابات واضحة على:

• شنو البيانات اللي كتستعملها؟
• شنو الطرق اللي كتتحرك فيها البيانات؟
• شنو الناس اللي عندهم الولوج؟
• شنو الأجهزة اللي كتشتغل عليها؟
• شنو الإجراءات اللي كتضمن الأمان؟
• شنو الشواهد اللي تقدر تعطيها للمراجعين؟

شنو كيعني هاد الشي ليك؟

الشركات المغربية بحال البنوك، شركات الاتصالات، والمكاتب القانونية — اللي بدات تستعمل AI — خاصها تفهم بلي النموذج وحده ماشي كافي. الاستثمار الحقيقي غادي يكون فحكم البيانات (Data Governance)، وضوح العمليات (Process Clarity)، وأمان البنية التحتية (Infrastructure Security).

حتى المهنيين المستقلين بحال المحامين والمستشارين: إيلا كنتي كتستعملو AI باش تحلل وثائق ولا تعطي نصائح — خاص تكون عندك براهين على بلي النموذج كيستعمل البيانات الصحيحة، وعندك عملية واضحة باش تتحقق من الجوابات قبل ما تعطيها للزبون.

المهارات الجديدة اللي غادي تكون مطلوبة: ماشي غير AI engineers. كاينة حاجة ل Data Governance specialists، Security Automation experts، وحتى Process Analysts كيفهمو AI. هاد المجالات غادي تنمو بزاف فالسنوات الجاية، خاصة فالشركات الكبرى والحكومة.