Anthropic بغات نحبسو الـ AI: واش الذكاء الاصطناعي غادي يطور نفسو بنفسو؟

Anthropic جابت موضوع خطير لـ الطاولة: واش الذكاء الاصطناعي يقدر يتطور هو بنفسو، بدون ما نسولو؟

في مقال نشرات الشركة (اللي نقلو الـ Wall Street Journal)، Anthropic قالت بلي نماذج الـ AI الحديثة يقدرو يوصلو يوم ما لمستوى يقدرو فيه يحسنو أنفسهم بشكل مستقل. هاد الظاهرة كتسمى التحسين الذاتي المتكرر (Recursive Self-Improvement)، يعني النموذج كيقدر يعدل نفسو ويصير أقوى بدون ما يقول لحد.

هادا ماوقعش بعد، ولكن Anthropic قالت بلي يمكن يقع أسرع من ما كنا فكرين.

شنو هو التحسين الذاتي المتكرر بالضبط؟

تخيل ليك طالب ذكي بزاف، كيقدر يقرا الكتب ديالو، يفهمها، ثم يعدل الطريقة ديالو فالدراسة باش يصير أحسن. كل مرة كيعدل، كيصير أقوى. وهاد العملية كتتكرر بدون ما نقول ليه حاجة.

هادا بالضبط هو التحسين الذاتي المتكرر فالـ AI. النموذج كيحسن نفسو تلقائيا، والتحسينات الجديدة كتخليه يقدر يحسن نفسو أكثر — وهكاك تتكرر.

الخطر؟ السرعة. إيلا بدا النموذج يتحسن بنفسو، ممكن يصير قوي بزاف فوقت قصير جدا، أقصر من ما البشر نقدرو يتأقلمو معاه.

Anthropic بغات حد عالمي

بدل ما تستنا لحد ما يوقع، Anthropic كتقول: "خاصنا نتفقو دابا." الشركة بغات:

• اتفاق دولي بين أكبر شركات الـ AI
• تبطيء مؤقت للتطوير ديال أقوى النماذج
• آليات تحقق باش نتأكدو بلي الجميع كيحترمو الاتفاق

الفكرة واضحة: ما خاصنا نسبق بعضنا لـ الأمام بدون ما نفكرو فالعواقب.

الخوف من اللامساواة والبطالة

داريو أمودي (Dario Amodei)، الـ CEO ديال Anthropic، حذر من حاجات خطيرة:

• الـ AI غادي يزيد الفوارق الاقتصادية بين الأغنياء والفقراء
• بزاف ديال الوظائف الإدارية والبيروقراطية غادي تختفي
• المؤسسات والحكومات ما غاديش قادرة تتأقلم بسرعة كافية

المشكل ماشي غير تقني، هو اجتماعي واقتصادي. التحولات غادي تكون سريعة بهاد الشكل اللي الناس والمجتمع ما غاديش قادرين يتبعو.

لكن ماكاين اتفاق كامل

ماشي الجميع متفقين مع Anthropic. يان لوكان (Yann LeCun)، واحد من أكبر الخبراء فالـ AI (كان عند Facebook/Meta)، قال بلي النماذج اللغوية الحالية ما غاديش قادرة أبدا توصلو لذكاء إنساني حقيقي. يعني حسب لوكان، الخطر اللي كتتكلم عليه Anthropic ماشي واقعي.

ولكن الجدل كيصير أكثر حرارة كل يوم، خاصة مع اللي كتتطور النماذج بسرعة.

"خاصنا نعطيو للمجتمع الوقت باش يتبع"

جاك كلارك (Jack Clark)، واحد من مؤسسي Anthropic، قال بحاجة مهمة جدا: التحسين الذاتي للـ AI يقدر يكون نقطة تحول تاريخية.

كلارك بغى حاجة أعمق من مجرد اتفاق بين الشركات:

• الحكومات خاصها تكون فالطاولة
• الباحثين المستقلين خاصهم يشاركو
• المجتمع المدني خاص يكون له صوت

الفكرة: ما خاصش هاد الموضوع يكون احتكار الشركات. الجميع خاص يساهم فتحديد القواعد ديال الـ AI فالمستقبل.

شنو كيعني هاد الشي ليك؟

الموضوع مهم بزاف للمغرب والمنطقة العربية. البنوك المغربية، شركات الاتصالات، والإدارة العمومية غادي تكون أول من تتأثر بهاد التحولات. إيلا الـ AI بدا يتطور لوحدو بدون حد، الوظائف الإدارية والبيروقراطية غادي تختفي أسرع من ما نتوقع — وهادا يعني بطالة كبيرة فالقطاع ديال الخدمات. حتى المهنيين المستقلين بحال المحامين والمحاسبين والمهندسين المعماريين غادي يشوفو تغيير كبير فطريقة خدمتهم. من جهة ثانية، المطورين المغاربة اللي عندهم خبرة فالـ AI والـ LLMs غادي يكون عليهم طلب عالمي بزاف — لأن الشركات الكبرى غادي تحتاج مواهب كتفهم هاد التحديات. المسألة ماشي غير تقنية: هي سياسية واجتماعية، وخاصنا نتكلمو عليها دابا قبل ما يوقع.