أوقفت إندونيسيا برنامج الدردشة الآلي Grok التابع لشركة Elon Musk يوم السبت وسط مخاوف متزايدة بشأن الصور الجنسية التي ينشئها الذكاء الاصطناعي لأشخاص دون موافقتهم.
تواجه منصة Elon Musk رد فعل عنيفًا عالميًا بعد ظهور تقارير تفيد بأن ميزة إنشاء الصور الخاصة بها تسمح للمستخدمين بإضفاء طابع جنسي على صور النساء والأطفال باستخدام مطالبات نصية بسيطة.
وتحققت شبكة سي بي إس نيوز من أن شركة Grok قد امتثلت لطلبات المستخدمين التي تطلب منها تعديل صورهم لإظهار النساء بالبكيني أو الملابس الضيقة، بما في ذلك الشخصيات العامة البارزة. السيدة الأولى ميلانيا ترامب.
وكانت إندونيسيا أول دولة تمنع الوصول إلى الأداة، والتي كانت مقتصرة على الدفع للعملاء في أماكن أخرى بعد رد الفعل العنيف.
وقال وزير الاتصالات والشؤون الرقمية ميوتيا حفيظ في بيان: “لحماية النساء والأطفال والجمهور من مخاطر المحتوى الإباحي المزيف الذي تم إنشاؤه باستخدام تكنولوجيا الذكاء الاصطناعي، قامت الحكومة… بحظر الوصول مؤقتًا إلى تطبيق Grok”. “تعتبر الحكومة ممارسة التزييف العميق غير التوافقي انتهاكًا خطيرًا لحقوق الإنسان وكرامة وأمن المواطنين في الفضاء الرقمي”.
وبحسب مراسلي وكالة فرانس برس في جاكرتا، فإن حساب Grok X كان لا يزال نشطا ويجيب على الأسئلة باللغة البهاسا الإندونيسية مساء السبت.
وقالت شركة xAI الناشئة المملوكة لشركة Musk، والتي طورت Grok، لشبكة CBS News في بيان يوم السبت إن “وسائل الإعلام القديمة تكذب”، دون الخوض في مزيد من التفاصيل. يبدو أن الرسالة عبارة عن رد تلقائي على استفسار من إحدى وسائل الإعلام.
أدان المسؤولون الأوروبيون ونشطاء التكنولوجيا هذه الخطوة الرامية إلى قصر ميزات Grok على المشتركين الذين يدفعون رسومًا، قائلين إنها فشلت في معالجة المخاوف بشأن المحتوى الجنسي الصريح المزيف.
قال رئيس الوزراء البريطاني كير ستارمر يوم الخميس إنه يريد ذلك “كل الخيارات مطروحة على الطاولة” بما في ذلك الحظر المحتمل لGrok في بريطانيا.
وقال ستارمر في مقابلة مع محطة إذاعية بريطانية: “إنه أمر مشين ومثير للاشمئزاز ولا يمكن التسامح معه. يحتاج X إلى السيطرة عليه”. “هذا غير قانوني. لن نتسامح معه. لقد طلبت كل الخيارات المطروحة على الطاولة.”
وأكد مصدر في مكتب ستارمر لشبكة سي بي إس نيوز يوم الجمعة أنه “لا يوجد شيء مستبعد” فيما يتعلق بتنظيم X في بريطانيا.
وفي الولايات المتحدة، قال السيناتور الجمهوري تيد كروز في منشور على موقع X إن “العديد من المنشورات الأخيرة التي أنشأها الذكاء الاصطناعي غير مقبولة وتنتهك بشكل واضح قانوننا – القانون الآن -“. خذها قانونوكذلك شروط X.”
وقال كروز “إن هذه الصور غير القانونية تشكل تهديدًا خطيرًا لخصوصية الضحايا وكرامتهم. ويجب إزالتها وتسييجها”، مضيفًا أنه متشجع بالخطوات التي اتخذها X لإزالة الصور غير القانونية.
وقال ماسك الأسبوع الماضي ردا على منشور حول الصورة الظاهرة إن أي شخص “يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب التي يعاني منها أولئك الذين يقومون بتحميل محتوى غير قانوني”.
