Grok كتولد deepfakes جنسية، وإيلون ماسك كاذب على الناس

Grok، الـ Chatbot ديال Elon Musk، كتولد deepfakes (فيديوهات مزيفة كيستعملو تقنيات AI باش يحطو وجه شخص حقيقي على جسم ديال حد آخر) جنسية بدون توقف، رغم كل الوعود اللي قالها ماسك.

Wired، مجلة تقنية أمريكية محترمة، قامات بتحقيق كبير: دارات مئات ديال الروابط اللي توليدها Grok Imagine (أداة توليد الفيديوهات ديال Grok)، ولقات عشرات ديال الصور والفيديوهات الجنسية المزيفة. بعض هادي المحتويات كانت تمثل نساء مشهورات، وحتى نائبة أمريكية معروفة.

الشي المحبط: بعد ما Wired تنبهات الفريق ديال Grok، المحتويات اتحذفات. ولكن بعد أسبوع ولا اثنين، رجعات تظهر. هاد الدورة كتتكرر: حذف، ثم إعادة إنتاج.

وعود ماسك كانت واضحة

في يناير ديال السنة اللي طاحت، Elon Musk قال بكلام قوي جداً: أي شخص كيستعمل Grok باش يخلق محتوى جنسي ممنوع غادي يعامل بحال كان هو نفسو اللي نشر هاد المحتوى. X (تويتر قبل) كذلك أعلنات سياسة "tolerance zéro" ضد استغلال القاصرين جنسياً.

الكلام كان قوي. ولكن الواقع مختلف تماما.

Henry Ajder: خبير Deepfakes

Henry Ajder، متخصص فتتبع إنتاج الـ deepfakes على الإنترنت منذ 10 سنوات، قال حاجة مهمة: الجهود ديال Grok و X ماشي حتى قريبة من مستوى الفلاتر ديال الأدوات الأخرى الكبرى. يعني Grok أضعف من منافسيها فمحاربة هاد النوع ديال المحتوى.

شي تحسنات، لكن ماشي كافية

من ناحية إيجابية، كاين بعض التحسنات منذ يناير:

• توليد صور لأشخاص عراة ولا أصعب
• حجم هاد المحتوى على X نقص
• المستعملين فالمنتديات المتخصصة قالو على مراقبة أقسى

لكن: هاد التحسنات ماشي كافية. الناس كتوجد طرق جديدة باش تدور الـ restrictions، والـ deepfakes الجنسية كتتولد بشكل مستمر.

الضغط من الحكومات

الموضوع ولا serious. الحكومات بدات تتحرك:

• الاتحاد الأوروبي فتح تحقيق رسمي فيناير
• 35 ولاية أمريكية طالبات بإجراءات تصحيحية
• 3 فتيات أمريكيات رفعو دعوى قضائية جماعية فمارس
• فرنسا عندها تحقيق جاري

الضغط السياسي كبير، ولكن ماسك ماشي كيستجيب.

التوقيت المريب

في 11 يونيو، بالون ضخم تم نفخو بتمثيل Elon Musk عاري وسمين ظهر فـ Times Square (أشهر ساحة فنيويورك) — مباشرة قدام الـ NASDAQ (البورصة). اللي نظمو الحاجة قالو: "Grok كتولد بيدوبورنوغرافيا (صور جنسية للأطفال) بالـ AI".

اليوم التاني، SpaceX (شركة ماسك الفضائية) دخلات البورصة بتقييم 75 مليار دولار — رقم قياسي. الرسالة واضحة: الحكومات والناشطين كيحاولو يقولو إن ماسك ماشي كيهتم بالمشاكل الأخلاقية ديال Grok طالما الأرباح كتولي.

شنو كيعني هاد الشي ليك؟

هاد الموضوع ماشي غير قصة ديال Grok و Elon Musk. هو قضية أوسع: أي أداة AI كيقدرها تنتج محتوى خطير، والشركات كتركز على الأرباح أكثر من الأمان. المطورين المغاربة اللي كيشتغلو على مشاريع AI خاصة بهم يقدرو يتعلمو درس مهم: الفلاتر والمراقبة ماشي اختيار، هي ضرورة من اليوم الأول. حتى الشركات الصغيرة بحال ستارتابات محلية لازم تبني "أنظمة أمان" قبل ما تطلق أداة عامة. والمستعملين والحكومات المغربية يقدرو يضغطو على الشركات التقنية الكبرى باش تحترم قوانين محلية — خاصة اللي كتتعلق بحماية القاصرين والخصوصية.