“انقضاء” إجراءات الحماية بعد أن ينشر القاصرون صورًا جنسية

إيلون ماسك جروك يلقي برنامج الدردشة الآلي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي باللوم على “خلل أمني” في نشر صور جنسية للأطفال مؤخرًا.

على وسائل التواصل الاجتماعي نشر إلى X وقالت جروك يوم الجمعة إنها “تعالج هذه القضية بشكل عاجل” ووصفت مواد الاعتداء الجنسي على الأطفال بأنها “غير قانونية ومحظورة”. جروك أيضا معترف بها إن الفشل في منع هذا المحتوى بمجرد الإبلاغ عنه قد يعرض الشركة لعقوبات جنائية أو مدنية

أعرب مستخدمو X عن قلقهم في الأيام الأخيرة محتوى واضح جعل القاصرين يستخدمون أداة Grok، بما في ذلك الأطفال الذين يرتدون الحد الأدنى من الملابس.

مشاركة من عضو الطاقم الفني لشركة xAI بارسا الطاجيكية اعترف أيضًا بالمشكلة.

وقال طاجيكستان في منشور: “مرحبًا! شكرًا على العلم. الفريق يبحث في تشديد حواجز الحماية لدينا”.

أرسل جهاز xAI الخاص بـ Musk ردًا آليًا على طلب التعليق: “أكاذيب وسائل الإعلام القديمة”.

أثار انتشار منصات توليد الصور بالذكاء الاصطناعي منذ إطلاق ChatGPT في عام 2022 مخاوف بشأن التلاعب بالمحتوى والأمن عبر الإنترنت في جميع المجالات. يساهم هذا في العدد المتزايد من المنصات التي أنشأت صورًا عارية مزيفة لأشخاص حقيقيين.

في حين واجهت برامج الدردشة الأخرى مشكلات مماثلة، فقد واجه جروك مرارًا وتكرارًا موقفًا محرجًا بسبب سوء الاستخدام.

وفي شهر مايو، واجهت الشركة رد فعل عنيفًا بسبب ردها على استفسارات المستخدمين بتعليقات غير مرغوب فيها حول “الإبادة الجماعية للبيض” في جنوب إفريقيا. وبعد شهرين، نشر جروك تعليقات معادية للسامية وأشاد بأدولف هتلر.

على الرغم من النكسة، استمر جروك في الشراكة والتجارة.

د وزارة الدفاع أضافت Grok الشهر الماضي وكيل الذكاء الاصطناعي الخاص بها إلى المنصة، والأداة هي برنامج الدردشة الآلي الرئيسي لمنصات الرهان التنبؤية Polymarket وKalshi.