Probably جمعات 9 مليون دولار باش تبني AI أقل أخطاء وأكثر موثوقية

المشكل اللي مازال كيطارد الذكاء الاصطناعي

النماذج اللغوية الكبيرة، أو LLMs، بحال GPT و Claude ولات قوية بزاف. كتكتب، كتشرح، كتحلل، وكتعاون الناس فالكود، البحث، التلخيص، وخدمة يومية كثيرة.

ولكن باقي عندها مشكل كبير: الهلوسة.

الهلوسة فـ AI هي ملي النموذج كيخترع معلومة غير صحيحة، ولكن كيقدمها بثقة كبيرة، بحال إلا كانت حقيقة. ممكن يعطيك رقم غلط، مصدر غير موجود، تاريخ غير صحيح، أو تحليل مبني على معلومة ما كايناش.

فالمحادثات العادية، هاد الخطأ ممكن يكون مزعج فقط. ولكن فمجالات بحال المحاسبة، القانون، الطب، المالية، والهندسة، الخطأ يقدر يكون مكلف وخطير.

هنا دخلات شركة ناشئة جديدة سميتها Probably، اللي جمعت 9 مليون دولار فتمويل أولي من Andreessen Horowitz، باش تبني نوع جديد من أنظمة الذكاء الاصطناعي: أنظمة أقل أخطاء، أكثر قابلية للتحقق، وأقرب للموثوقية ديال البرمجيات التقليدية.

الفكرة ديال Probably

المؤسس ديال الشركة، بيتر إلياس (Peter Elias)، كيشرح الهدف بطريقة بسيطة: منع الأخطاء من أنها توصل للمستخدم.

يعني Probably ما كتقولش إن النموذج اللغوي ما غاديش يغلط نهائياً. بالعكس، هي كتعتبر أن النموذج يقدر يغلط، ولذلك خاص يكون فوقو نظام آخر كيراقب، يتحقق، ويرفض الجواب إذا كان فيه مشكل.

هاد الفكرة مهمة بزاف. لأن بزاف ديال الشركات كتراهن على أن النموذج الأكبر غادي يكون أذكى وأقل أخطاء. أما Probably كتراهن على حاجة مختلفة: ماشي ضروري يكون عندك أكبر نموذج فالعالم، المهم يكون عندك نظام قوي كيتحقق من الأجوبة قبل ما توصل للمستخدم.

كيفاش كيخدم النظام؟

الفكرة التقنية ديال Probably مبنية على ما يسميه الفريق harness engineering. بمعنى آخر: بناء طبقة هندسية حول النموذج اللغوي باش توجهو، تختبر الجواب ديالو، وتمنع الأخطاء من الخروج.

النظام كيخدم تقريباً بهاد الطريقة:

1. النموذج اللغوي كيعطي جواب أولي.
2. طبقة تحقق تقليدية، أو deterministic validator، كتفحص الجواب.
3. هاد الطبقة كتقارن الأرقام والنتائج مع البيانات الحقيقية.
4. إلا كان الجواب صحيح، كيمشي للمستخدم.
5. إلا كان فيه خطأ، النظام كيرفضو، والنموذج كيحاول من جديد.

يعني المستخدم ما كيشوفش المحاولة الأولى بالضرورة. كيشوف غير الجواب اللي داز من الفلتر.

هاد الشي كيخلي AI أقرب للأنظمة التقليدية اللي كتخدم بقواعد واضحة، خصوصاً فالمجالات اللي ما فيهاش مجال كبير للخطأ.

علاش هاد المقاربة مهمة؟

اللي مثير فالفكرة ديال Probably هو أنها ما كتحتاجش دائماً أقوى نموذج موجود فالسوق.

بيتر إلياس قال فكرة مهمة: كلما كانت طبقة التحقق والهندسة المحيطة بالنموذج قوية، كلما قدرنا نستعملو نموذج أضعف وأصغر.

هاد الشي عندو معنى اقتصادي كبير.

النموذج الكبير كيكلف بزاف: كيحتاج موارد حوسبة ضخمة. كيستهلك tokens أكثر. وغالباً كيحتاج بنية تحتية سحابية قوية.

أما إذا كان عندك نظام تحقق ذكي ومبني مزيان، تقدر تستعمل نموذج أصغر، أرخص، وأسرع، ومع ذلك تحصل على نتائج موثوقة فمجال محدد.

هاد المنطق يقدر يبدل طريقة بناء تطبيقات الذكاء الاصطناعي. بدل ما نسولو دائماً: “شنو هو أقوى نموذج؟”، غادي نبداو نسولو: “شنو هو أحسن نظام تحقق فوق النموذج؟”

أول منتج: أداة لـ Data Science

أول منتج ديال Probably موجه لـ data science.

الفكرة أن المستخدم يعطي للنظام بيانات معقدة، والنظام يرجع ليه تحليلات وملخصات دقيقة، ولكن مع جوج عناصر مهمين:

• Citations: يعني الجواب خاصو يبين منين جات المعلومة.
• Audit trail: يعني خاص يكون ممكن نعرفو كيفاش وصل النظام للنتيجة.

هاد الجوج عناصر مهمين بزاف. لأن المشكل مع بزاف ديال أدوات AI اليوم هو أنها كتعطيك الجواب، ولكن ما كتوضحش دائماً الطريق اللي مشات فيه باش توصل ليه.

فالشركات، هاد الشي ما كافيش. المسؤول ماشي غير باغي جواب. باغي يعرف واش الجواب قابل للتحقق، واش مبني على بيانات صحيحة، وواش يمكن الرجوع للخطوات إذا وقع مشكل.

فين يمكن تستعمل هاد التقنية؟

رغم أن البداية مع data science، الفكرة أوسع بكثير.

هاد النوع ديال الأنظمة يقدر يكون مهم فمجالات بحال:

المحاسبة والفوترة حيث خطأ بسيط فالأرقام يقدر يخلق مشاكل مالية أو قانونية.

البنوك والمالية حيث التحليل خاصو يكون مضبوط، خصوصاً ملي كيكون مرتبط بالمخاطر، القروض، أو التقارير.

القانون حيث محامي ما يقدرش يعتمد على نموذج يختارع سوابق قضائية أو بنود قانونية غير موجودة.

الطب حيث أي توصية خاطئة ممكن تكون خطيرة.

الهندسة حيث الحسابات والقرارات التقنية خاصها تكون دقيقة وقابلة للمراجعة.

فكل هاد المجالات، المشكل ماشي واش AI يقدر يعطي جواب جميل. المشكل هو واش الجواب صحيح، قابل للتتبع، وقابل للدفاع عليه.

علاش الشركات الكبرى ما دارتش هاد الشي من الأول؟

هنا كاين سؤال مهم: إذا كانت الفكرة واضحة، علاش الشركات الكبرى بحال OpenAI، Google، Meta، و Anthropic ما ركزاتش عليها أكثر؟

الجواب ماشي بسيط.

الشركات الكبرى كتخدم غالباً على نماذج عامة، كتجاوب على كلشي: كتابة، كود، صور، بحث، تحليل، محادثة، ترجمة، وغير ذلك. هاد العمومية كتخلي النموذج قوي، ولكن كتخلي التحكم الكامل فالدقة صعيب بزاف.

أما Probably داخلة من زاوية مختلفة: ما بغاتش تبني نموذج يعرف كلشي. بغات تبني نظام خاص بمجالات تحتاج دقة عالية، وفيها البيانات قابلة للتحقق.

هاد فرق كبير.

النموذج العام كيحاول يجاوب على أي سؤال. النظام الموثوق كيحاول يجاوب غير ملي يقدر يتحقق من الجواب.

شنو كيعني هاد الشي ليك؟

هاد النوع ديال التكنولوجيا مهم بزاف للمهنيين والشركات فالمغرب والعالم العربي.

البنوك، شركات التأمين، مكاتب المحاسبة، الإدارات، المحامين، الأطباء، والمهندسين كاملين عندهم نفس المشكل: كاينين بيانات حساسة، وأي خطأ يقدر يكلف غالي.

هنا كيبان مستقبل مهم: ماشي فقط استعمال ChatGPT ولا Claude مباشرة، ولكن بناء حلول فوقهم فيها تحقق، مصادر، وسجل واضح للقرارات.

بالنسبة للمطورين المستقلين، هادي فرصة كبيرة. الشركات غادي تحتاج حلول مخصصة فيها:

• نموذج لغوي
• قاعدة بيانات موثوقة
• طبقة تحقق
• مصادر
• سجل تدقيق
• واجهة سهلة للمستخدم

بمعنى آخر، المستقبل ماشي غير فاستعمال AI. المستقبل فبناء أنظمة تجعل AI موثوقاً داخل العمل الحقيقي.

الخلاصة واضحة: المرحلة الجاية من الذكاء الاصطناعي ما غاديش تكون فقط حول “النموذج الأقوى”. غادي تكون حول “النظام الأكثر موثوقية”.

وهاد بالضبط فين Probably باغية تدخل.