نيكولاس كوكوفليس نورفوتو جيتي إيماجيس
منعت ماليزيا وإندونيسيا الوصول إلى برنامج الدردشة الآلي Grok للذكاء الاصطناعي التابع لشركة Elon Musk خلال عطلة نهاية الأسبوع بسبب مخاوف من استخدام الأداة لإنشاء محتوى جنسي وفاحش غير توافقي.
مراقب ماليزيا طلب سيتم حظر chatbot من xAI مؤقتًا يوم الأحد بعد “الفشل المتكرر من قبل X Corp” لمعالجة مخاطر المحتوى المتعلقة بأداة الذكاء الاصطناعي.
بعد يوم واحد فقط من تحرك إندونيسيا لمنع وصول GRO مؤقتًا بسبب مخاوف مماثلة وطلب X من المسؤولين توضيح الأمر، البيان كما ترجمته سي إن بي سي.
وتأتي تحركات الدولة الواقعة في جنوب شرق آسيا بعد أن تم اكتشاف أن بعض مستخدمي أداة الذكاء الاصطناعي قد أنشأوا صورًا صريحة بدون رضاهم وتزييفًا عميقًا، بما في ذلك تصوير قاصرين يرتدون ملابس شبه عارية.
قامت شركة Musk مؤخرًا بتحديث ميزات Grok Imagine الخاصة بها، مما يتيح إنشاء صور بسهولة من المطالبات النصية على النظام الأساسي، والتي تتكامل مع منصة الوسائط الاجتماعية الخاصة بـ Musk X، مما يمنحها نطاقًا أوسع.
سياسة الإشراف على محتوى Grok، وسط قلق متزايد بشأن xAI إعلان وسيقتصر ميزات إنشاء الصور وتحريرها على العملاء الذين يدفعون، في محاولة لتصحيح الثغرات الأمنية التي تسمح بالإخراج الجنسي.
المسك, إجابة في X، أكد أيضًا أن المستخدمين الذين ينشئون محتوى غير قانوني من خلال Grok سيواجهون نفس العواقب مثل تحميل هذا المحتوى مباشرة على منصات التواصل الاجتماعي.
حاولت CNBC الاتصال بـ xAI للتعليق على التطوير خلال عطلة نهاية الأسبوع. أعادت رسالة بريد إلكتروني صحفية إلى الشركة رسالة آلية نصها “Legacy Media Lies”.
استجابة “غير كافية”.
ومع ذلك، فإن ردود X العامة والخاصة على هذا الجدل فشلت في تلبية مخاوف الهيئات التنظيمية الإندونيسية والماليزية، فضلاً عن الآخرين الذين بدأوا التحقيقات.
وقالت لجنة الاتصالات والوسائط المتعددة الماليزية إن استجابات X “غير الكافية” “اعتمدت في المقام الأول على آليات الإبلاغ التي بدأها المستخدم وفشلت في معالجة المخاطر الكامنة التي يفرضها تصميم وتشغيل أدوات الذكاء الاصطناعي”.
وقالت الهيئة “بناء على ذلك، تم فرض الحظر كإجراء وقائي ومتناسب مع استمرار العملية التشريعية والتنظيمية”. “سيتم تقييد الوصول إلى Grok حتى يتم وضع ضمانات فعالة، خاصة لمنع المحتوى الذي يشمل النساء والأطفال.”
تطبق كل من إندونيسيا وماليزيا قوانين صارمة لمكافحة المواد الإباحية، والتي تحظر المشاركة الأوسع للمحتوى الإباحي والجنسي عبر الإنترنت.
وفي الوقت نفسه، قالت وزارة الاتصالات والشؤون الرقمية الإندونيسية، ميوتيا حفيظ، إن “الحكومة تعتبر التزييف العميق الجنسي غير التوافقي في الفضاء الرقمي بمثابة انتهاك خطير لحقوق الإنسان والكرامة وحماية المواطنين”.
وصنف حفيظ إساءة استخدام الذكاء الاصطناعي لإنشاء مواد إباحية مزيفة كشكل من أشكال “العنف الرقمي”، وفقًا لبيان نشرته وكالة أنتارا نيوز المملوكة للدولة.
وكذلك السلطات في ولايات قضائية أخرى، بما في ذلك الاتحاد الأوروبي والمملكة المتحدة والبرازيل والهند تمت الدعوة إلى إجراء تحقيق في دور Groke في تسهيل التزييف العميق الفاحش وغير التوافقي.
وفي الوقت نفسه، أوصى بعض المشرعين الديمقراطيين في واشنطن بأن تقوم متاجر التطبيقات بتعليق أداة الذكاء الاصطناعي، على الأقل حتى ينفذ ماسك تغييرات كبيرة.
وفي رسالة بالبريد الإلكتروني إلى CNBC الأسبوع الماضي، قالت وزارة العدل في بيان إنها “تأخذ محتوى الاعتداء الجنسي على الأطفال الناتج عن الذكاء الاصطناعي على محمل الجد وستحاكم بشدة أي منتج أو حائز (لمواد الاعتداء الجنسي على الأطفال).”
وأضافت: “نحن نواصل استكشاف طرق تحسين التنفيذ في هذا المجال لحماية الأطفال ومحاسبة المسؤولين عن استخدام التكنولوجيا لإلحاق الأذى بالفئات الأكثر ضعفًا لدينا”.
– ساهمت لورا كولودني من CNBC في إعداد هذا التقرير.
