قامت منصة Elon Musk’s Platform X بتقييد تحرير الصور من خلال أداة الذكاء الاصطناعي Grok للمستخدمين الذين يدفعون، بعد أن تعرضت لانتقادات لأنها سمحت للأشخاص بإنشاء صور مزيفة ذات طابع جنسي.
كان هناك رد فعل عنيف كبير بعد طلبات مستخدمي Chatbot بخلع ملابسهم وتغيير صورهم رقميًا دون موافقتهم.
لكن Grok يطلب الآن من الأشخاص إنشاء محتوى لن يتمكن سوى العملاء الذين يدفعون من القيام به، مما يعني أن أسمائهم ومعلومات الدفع يجب أن تكون مسجلة في الملف.
اتصلت بي بي سي بـ X للتعليق.
لا يزال بإمكان أولئك الذين لم يشتركوا استخدام تطبيق Grok المنفصل وموقع الويب لتحرير الصور.
وقالت البروفيسور كلير ماكجلين، الخبيرة في التنظيم القانوني للمواد الإباحية والعنف الجنسي والإساءة عبر الإنترنت: “لقد ألقى ماسك ألعابه من عربة الأطفال احتجاجًا على كونه مسؤولاً عن تسونامي الانتهاكات”.
“بدلاً من اتخاذ خطوات مسؤولة لضمان عدم استخدام Grok لأغراض مسيئة، فقد ألغت الوصول لمعظم المستخدمين.”
وقالت هانا سويرسكي، رئيسة قسم السياسات في مؤسسة مراقبة الإنترنت، إن هذا “لا يلغي الضرر الذي حدث”.
وقال: “لا نعتقد أنه من الجيد تقييد الوصول إلى أداة لم تكن لديها القدرة على إنتاج هذا النوع من الصور التي رأيناها في الأيام الأخيرة”.
صدقة قال من قبل واكتشف محللوها “صورًا تدين” فتيات تتراوح أعمارهن بين 11 و13 عامًا “يبدو أنه تم إنشاؤها” باستخدام مادة Grok.
وقال سويرسكي: “من غير المقبول الجلوس وانتظار إساءة استخدام المنتجات غير الآمنة قبل اتخاذ أي إجراء”.
ويأتي بعد الحكومة وطالبت الهيئة التنظيمية Ofcom باستخدام كافة صلاحياتها ما يصل إلى أمر قضائي فعال ضد X ويتضمنه مخاوف بشأن صور الذكاء الاصطناعي غير القانونية التي تم إنشاؤها على الموقع.
وفي معرض الرد على المخاوف من قيام غروك بالتقاط صور جنسية للبالغين والأطفال، قال رئيس الوزراء السير كير ستارمر إن ذلك “مشين” و”مثير للاشمئزاز”.
وقال إن أوفكوم تحظى “بالدعم الكامل” من الحكومة للعمل على المحتوى.
وقال في مقابلة مع راديو جريت هيتس: “هذا غير قانوني. لن نتسامح معه. لقد طلبت وضع جميع الخيارات على الطاولة”.
وقالت مصادر حكومية لبي بي سي نيوز: “نتوقع أن تمارس أوفكوم جميع الصلاحيات المتاحة لها فيما يتعلق بغروك وإكس”.
تحت صلاحيات Ofcom قانون السلامة على الإنترنت يتضمن ذلك القدرة على طلب أمر من المحكمة لمنع أطراف ثالثة من الوصول إلى المنصة المملوكة لـ Elon Musk لجمع الأموال أو الوصول إليها في المملكة المتحدة.
وقد اتصلت بي بي سي بالجهة التنظيمية للتعليق.
Grok هي أداة مجانية تتيح للمستخدمين وضع علامات مباشرة على المنشورات أو الرد أسفل مشاركات المستخدمين الآخرين لطلب رد محدد.
لكن الميزة سمحت للأشخاص بطلب تعديل الصور، وطلبت من الأشخاص إزالة معظم ملابسهم رقميًا.
وقد استجابت شركة Grok لعدد من طلبات المستخدمين الذين طلبوا منها تعديل صورهم لإظهار النساء بالبكيني أو الفساتين الضيقة – وقال بعض الذين تعرضوا لمثل هذه الطلبات لبي بي سي إنهم تركوا مشاعرهم “.إذلال“و”غير إنساني“
ومع ذلك، اعتبارًا من صباح الجمعة، طلب Grok من المستخدمين تعديل الصور التي تم تحميلها على X قائلاً إن “إنشاء الصور وتحريرها يقتصر حاليًا على العملاء الذين يدفعون”.
ويضيف أنه يمكن للمستخدمين “الاشتراك لفتح هذه الميزات”.
اقترحت بعض المنشورات على المنصة التي شاهدتها بي بي سي نيوز أن رمز “التحقق” ذو العلامة الزرقاء فقط – الحصري لطبقة المشتركين المدفوعين في X – كان قادرًا على مطالبة Grok بنجاح بتحرير الصور.
ورحبت الدكتورة ديزي ديكسون، إحدى مستخدمات برنامج Female X، التي قالت إنها لاحظت زيادة في عدد الأشخاص الذين يستخدمون Grok لخلع ملابسها، بالتغيير لكنها قالت إنه بدا وكأنه “جص لاصق”.
وقال لبي بي سي: “يحتاج نظام جروك إلى إعادة تصميمه بالكامل وإقامة أسوار أخلاقية لمنع حدوث ذلك مرة أخرى”.
“حتى إيلون ماسك عليه أن يعترف بذلك، وهو مثال آخر على الانتهاك القائم على النوع الاجتماعي.”
البروفيسور ماكجلين خطوات X تعكس نهجه من قامت الممثلة الإباحية تايلور سويفت بالتزييف العميق على المنصة العام الماضي – حيث تم حظر عمليات البحث عن المحتوى الجنسي التي أجراها نجم البوب باستخدام ميزة فيديو Grok AI
وأضاف: “إنه يفعل ذلك لتقديم الحجة لصالح حرية التعبير”.
“سوف يدعي أن التنظيم يخنق استخدام الناس لهذه التكنولوجيا. لكن كل التنظيم يتطلب منه اتخاذ الاحتياطات اللازمة لتقليل الضرر.”
