شعار إيلون ماسك وXAI.
فنسنت فوري أ ف ب | صور جيتي
يتم التحقيق مع Elon Musk’s X من قبل السلطات في أوروبا والهند وماليزيا بعد أن يسمح برنامج الدردشة Groc الخاص به للمستخدمين بإنشاء ومشاركة الصور الجنسية التي تم إنشاؤها بواسطة الذكاء الاصطناعي للأطفال والنساء.
هيئة مراقبة وسائل الإعلام البريطانية Ofcom أيضا قال طلبت معلومات من X، المملوكة لشركة XAI، فيما يتعلق بمسألة Grok. ويوم الأحد، قال عضو في البرلمان البرازيلي على وسائل التواصل الاجتماعي، إنه طلب من المدعي العام الاتحادي وهيئة حماية البيانات في البلاد تعليق استخدام “غروك” لحين الانتهاء من التحقيق.
في الأسابيع الأخيرة، كانت هناك زيادة عالمية في عمليات البحث عن استخدام Grok لإنشاء ومشاركة صور حميمة غير توافقية أو NCII مستمدة من صور أو مقاطع فيديو لأشخاص حقيقيين استجابة لمطالبات المستخدم. تمت مشاركة الصور ذات الصلة على نطاق واسع على X.
قامت شركة Musk مؤخرًا بتحديث ميزة Grok Imagine، مما يمكّن النظام الأساسي من إنشاء صور بسهولة من المطالبات النصية.
في حين أدان خبراء الأمن ونقاد التكنولوجيا انتشار الصور والمقاطع الاستغلالية على X، بدا أن ماسك يسخر من الموقف من خلال مشاركة مجموعة من الصور التي أنشأها Grok، بما في ذلك صورة تصور نفسه بالبيكيني، تتخللها رموز تعبيرية مبتسمة.
أ مؤتمر صحفي وقال توماس ريجنير، المتحدث باسم المفوضية الأوروبية، يوم الاثنين، إن السلطات “تأخذ هذا الأمر على محمل الجد” وكانت “تدرك جيدًا” أن X وGrok “يقدمان الآن وضعًا حارًا يعرض محتوى جنسيًا صريحًا، بما في ذلك بعض المخرجات المكونة من صور أطفال”.
قال ريجنير: “إنها ليست حارة”. “إنه غير قانوني. إنه فظيع. إنه حقير. هكذا نرى الأمر، وليس له مكان في أوروبا”.
وفي أواخر الأسبوع الماضي، أمرت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية شركة X بإجراء “مراجعة فنية وإجرائية شاملة على مستوى الحوكمة” لشركة Grok. ومنحت الشركة مهلة حتى 5 يناير للامتثال.
لجنة الاتصالات والوسائط المتعددة الماليزية قال خلال عطلة نهاية الأسبوع، تقوم بالتحقيق في X وستتصل بممثلي الشركة.
وقالت المجموعة في بيان: “تحث MCMC جميع المنصات التي يمكن الوصول إليها في ماليزيا على تنفيذ ضمانات تتماشى مع القوانين الماليزية ومعايير السلامة عبر الإنترنت، خاصة فيما يتعلق بميزاتها المدعومة بالذكاء الاصطناعي وروبوتات الدردشة وأدوات معالجة الصور”.
وفي الوقت نفسه، في الولايات المتحدة، دعا المركز الوطني للاستغلال الجنسي (NCOSE) وزارة العدل ولجنة التجارة الفيدرالية إلى التحقيق في الأمر في مقابلة مع شبكة CNBC. وقال داني بينتر، كبير المسؤولين القانونيين ومدير المركز القانوني التابع لـ NCOSE: “لا يوجد الكثير من السوابق القانونية في هذه المرحلة بالنسبة لهذه القضايا المحددة”.
ومع ذلك، قال إن القانون الفيدرالي يحظر إنتاج وتوزيع مواد الاعتداء الجنسي على الأطفال، أو CSAM، ويمكن تطبيقه على المواد التي تم إنشاؤها “عندما تصور طفلاً يمكن التعرف عليه، أو تصور طفلاً يشارك في سلوك جنسي صريح”.
وتشمل هذه القوانين قانون Take It Down، الذي وافقت عليه السيدة الأولى ميلانيا ترامب قبل صدوره العام الماضي.
ولم تستجب وزارة العدل لطلبات التعليق. ورفضت لجنة التجارة الفيدرالية التعليق. لم يقدم XAI تعليقًا يتجاوز الرد الآلي.
أصدرت شركة Musk للتواصل الاجتماعي أول بيان عام لها يوم السبت في منشور على حساب X Safety الرسمي.
وكتبت الشركة: “نحن نتخذ إجراءات ضد المحتوى غير القانوني على X، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM)، عن طريق إزالتها، وتعليق الحسابات بشكل دائم، والعمل مع الحكومة المحلية ووكالات إنفاذ القانون حسب الحاجة”.
كتب كاستوري أ مشاركة منفصلة في X، “أي شخص يستخدم Grok أو يشجع على إنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني.”
في اليوم التالي، موظف في xAI يُدعى إيثان هاي كتب في آخر تم تحديث Grok Imagine على X، لكنه لم يذكر أي تغييرات فيما يتعلق بقدرته على إنتاج صور واضحة للضرر.
لدى Musk وX تاريخ في إنشاء منشورات على المنصة تظهر الاستغلال الجنسي للأطفال.
في عام 2023، قام X بتعليق حساب مستخدم يُدعى Dom Lucre لفترة وجيزة ثم أعاده بعد أن نشر “صور استغلال الأطفال المتعلقة بإدانة جنائية لرجل أسترالي في الفلبين”. تقارير ماشابل. قال Musk في ذلك الوقت إن X قرر إزالة منشورات Lucre المخالفة مع إعادة المؤثر اليميني إلى المنصة. لدى Lucre حاليًا حساب يتم تحقيق الدخل منه على X مع 1.6 مليون متابع مدرج.
قال توم كويسيل، الرئيس التنفيذي لشركة Musubi AI، التي تساعد شبكات التواصل الاجتماعي وشركات الذكاء الاصطناعي على استخدام الذكاء الاصطناعي لأتمتة إدارة المحتوى، إنه يبدو أن XAI فشلت في بناء حتى “طبقة ثقة وأمان على مستوى المبتدئين” في طرح Grok Imagine to X.
وقال Quizel إنه سيكون من السهل على شركة مثل xAI اكتشاف وحظر نموذجها “صورة تتضمن طفلاً أو عريًا جزئيًا” أو رفض طلبات المستخدمين لوضع محتوى الصورة في ملابس موحية جنسيًا.
لم يفعل الجدل شيئًا للإضرار بحركة مرور X.
وفقًا لـ Apptopia، الذي يتتبع اتجاهات تطبيقات الهاتف المحمول، زادت التنزيلات اليومية لـ Grok بنسبة 54% منذ 2 يناير، بينما زادت التنزيلات اليومية لـ X بنسبة 25% خلال الأيام الثلاثة الماضية.
يرى: انفجارات الاتحاد الأوروبي بعد غرامة Elon Musk X
