جديديمكنك الاستماع إلى مقالات فوكس نيوز الآن!
يواجه Grok، برنامج الدردشة الآلي المدمج في X، تدقيقًا مكثفًا بعد أن أنشأ وشارك صورة AI تظهر فتاتين صغيرتين في ملابس جنسية.
في منشور عام على X، أقر Grok بأن المحتوى “ينتهك المعايير الأخلاقية” و”من المحتمل أن ينتهك قانون محتوى الاعتداء الجنسي على الأطفال (CSAM) الأمريكي”. وأضاف برنامج الدردشة الآلي: “لقد كان هذا فشلًا أمنيًا، وأنا أعتذر عن أي ضرر قد يحدث. وتقوم تقنية xAI بمراجعتها لمنع حدوث مشكلات مستقبلية.”
وهذا الاعتراف وحده مثير للقلق. وما تلا ذلك كشف عن نمط أوسع.
قم بالتسجيل للحصول على تقرير CyberGuy المجاني الخاص بي
احصل على أفضل النصائح التقنية، والتنبيهات الأمنية العاجلة، والصفقات الحصرية التي يتم تسليمها مباشرة إلى صندوق الوارد الخاص بك. بالإضافة إلى ذلك، يمكنك الوصول الفوري إلى دليل Ultimate Scam Survival الخاص بي – مجانًا عند انضمامك إلي CYBERGUY.COM النشرة الإخبارية
تعمل شركة OpenAI على تشديد قواعد الذكاء الاصطناعي بالنسبة للمراهقين، لكن المخاوف لا تزال قائمة
أثارت تداعيات الحادث تدقيقًا عالميًا، حيث تساءلت الحكومات والمجموعات الأمنية عما إذا كانت منصات الذكاء الاصطناعي تفعل ما يكفي لحماية الأطفال. (سيلاس شتاين / فوتو ألاينس عبر غيتي إيماجز)
أثار الاعتذار المزيد من الأسئلة
جاء اعتذار جروك بعد أن طلب أحد المستخدمين من برنامج الدردشة الآلي كتابة شرح صادق للأشخاص الذين ليس لديهم سياق. بمعنى آخر، لم يقم النظام بحل المشكلة بشكل استباقي. إنه رد لأن أحدهم طلب ذلك.
وفي الوقت نفسه تقريبًا، كشف الباحثون والصحفيون عن سوء استخدام واسع النطاق لأداة الصور الخاصة بـ Grok. وفقًا لشركة المراقبة Copylix، كان المستخدمون ينشئون صورًا تم التلاعب بها جنسيًا لنساء حقيقيات، بما في ذلك صور غير واقعية وقاصرات ومعروفات.
بعد مراجعة موجز صور Grok الذي يمكن الوصول إليه بشكل عام، حددت Kopylix معدلًا متحفظًا يبلغ حوالي صورة جنسية واحدة غير رضائية في الدقيقة، استنادًا إلى صور تتضمن أشخاصًا حقيقيين بدون إشارة واضحة إلى الموافقة. وقالت الشركة إن إساءة الاستخدام زادت بسرعة، وتحولت من الترويج الذاتي بالتراضي إلى المضايقات واسعة النطاق التي أتاحها الذكاء الاصطناعي.
وقال ألون يامين، الرئيس التنفيذي والمؤسس المشارك لشركة كوبيليكس: “عندما تسمح أنظمة الذكاء الاصطناعي بالتلاعب بصور أشخاص حقيقيين دون موافقة صريحة، فإن التأثير يمكن أن يكون فوريًا وشخصيًا للغاية.“
حماية الأطفال من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي: ماذا يعني قانون GUARD
واعترفت شركة Grok بأنها أنشأت وشاركت صورة تعمل بالذكاء الاصطناعي تنتهك المعايير الأخلاقية وتنتهك قوانين حماية الطفل الأمريكية. (كورت “سايبيرجوي” كنوتسون)
الصور الجنسية للقاصرين غير قانونية
هذه ليست منطقة رمادية. يعد إنشاء أو توزيع صور جنسية للقاصرين جريمة جنائية خطيرة في الولايات المتحدة والعديد من البلدان الأخرى. وبموجب القانون الفيدرالي للولايات المتحدة، يتم تصنيف هذا المحتوى على أنه مواد اعتداء جنسي على الأطفال. يمكن أن تشمل العقوبات السجن لمدة تتراوح بين خمس سنوات و20 سنة، وغرامات تصل إلى 250 ألف دولار، والتسجيل الإلزامي لمرتكبي الجرائم الجنسية. تنطبق قوانين مماثلة في المملكة المتحدة وفرنسا.
في عام 2024، حُكم على رجل من ولاية بنسلفانيا بالسجن ما يقرب من ثماني سنوات بتهمة إنشاء وحيازة مواد CSAM مزيفة تتضمن مشاهير أطفال. وشكلت هذه القضية سابقة واضحة. وقد اعترف جروك نفسه بهذه الحقيقة القانونية في منشوره، مشيرًا إلى أن صور الذكاء الاصطناعي التي تصور القُصَّر في سياق جنسي هي صور غير قانونية.
حجم المشكلة يتزايد بسرعة
ويظهر تقرير صدر في يوليو/تموز عن مؤسسة مراقبة الإنترنت، وهي منظمة غير ربحية تتعقب وتزيل محتوى الاعتداء الجنسي على الأطفال عبر الإنترنت، مدى سرعة تسارع التهديد. ستزداد التقارير عن صور الاعتداء الجنسي على الأطفال التي ينشئها الذكاء الاصطناعي بنسبة 400% في النصف الأول من عام 2025 وحده. يحذر الخبراء من أن أدوات الذكاء الاصطناعي تقلل من الحواجز التي تحول دون إساءة الاستخدام المحتملة. ما كان يتطلب خبرة فنية أو الوصول إلى المنتديات المخفية يمكن أن يحدث الآن بمطالبة بسيطة على المنصات الرئيسية.
يتم استهداف أناس حقيقيين
الضرر ليس مجردا. ووثقت رويترز حالات طلب فيها المستخدمون من Grok خلع ملابس نساء حقيقيات تم نشر صورهن على X. وفي العديد من الحالات الموثقة، امتثل Grok تمامًا. والأمر الأكثر إثارة للقلق هو أن المستخدمين لاحظوا صورًا للممثلة Nell Fisher البالغة من العمر 14 عامًا من سلسلة Stranger Things على Netflix. اعترف جروك لاحقًا بوجود حوادث معزولة حيث عثر المستخدمون على صور تصور قاصرين يرتدون ملابس شبه عارية. وفي تحقيق آخر لرويترز، وصفت موسيقي برازيلية انتشار صور بيكيني لها تم إنشاؤها بواسطة الذكاء الاصطناعي عبر X بعد أن أقنع المستخدمون Grok بتغيير صورة غير ضارة. وتعكس تجربتها ما تواجهه العديد من النساء والفتيات الآن.
تستجيب الحكومات على المستوى العالمي
أصبح رد الفعل عالميًا. وفي فرنسا، أحال العديد من الوزراء X إلى هيئة تحقيق بشأن الانتهاكات المحتملة لقانون الخدمات الرقمية في الاتحاد الأوروبي، والذي يتطلب من المنصات منع وتخفيف انتشار المحتوى غير القانوني. يمكن أن تؤدي الانتهاكات إلى فرض غرامات باهظة. في الهند، منحت وزارة تكنولوجيا المعلومات في البلاد شركة XAI 72 ساعة لتقديم تقرير حول كيفية خططها لوقف انتشار المواد الفاحشة والجنسية الصريحة التي تنتجها شركة Grok. وقد حذر جروك علنًا من أن شركة xAI قد تواجه تحقيقات محتملة من وزارة العدل أو دعاوى قضائية تتعلق بهذا الفشل.
تُظهر المستندات التعريفية المسربة كيف تتعامل روبوتات الدردشة المدعمة بالذكاء الاصطناعي مع استغلال الأطفال
اكتشف الباحثون لاحقًا أن برنامج Grok تم استخدامه على نطاق واسع لإنشاء صور غير توافقية ومعدلة جنسيًا لنساء حقيقيات، بما في ذلك القاصرات. (نور فوتو عبر نيكولاس كوكوفليس / غيتي إيماجز)
تزايدت المخاوف بشأن أمن جروك واستخدام الحكومة
يثير الحادث مخاوف جدية بشأن الخصوصية عبر الإنترنت وأمن النظام الأساسي والضمانات المصممة لحماية القاصرين
ولم يرد إيلون موسك، مالك شركة X ومؤسس شركة xAI، علنًا حتى وقت النشر. ويأتي هذا الصمت في وقت حساس. تمت الموافقة على Grok للاستخدام الحكومي الرسمي بموجب عقد فيدرالي مدته 18 شهرًا. وجاءت الموافقة على الرغم من اعتراضات أكثر من 30 مجموعة للدفاع عن المستهلك، والتي حذرت من أن النظام يفتقر إلى الاختبارات الأمنية المناسبة.
على مدار العام الماضي، اتهم النقاد جروك بنشر معلومات مضللة حول الأحداث الإخبارية الكبرى، والترويج للخطاب المعادي للسامية، وتبادل معلومات صحية مضللة. فهو يتنافس بشكل مباشر مع أدوات مثل ChatGPT وGemini بينما يعمل مع قيود أمنية أقل وضوحًا. كل نقاش يثير نفس السؤال. هل يمكن نشر أداة قوية للذكاء الاصطناعي بشكل مسؤول دون رقابة وإنفاذ قويين؟
ما يجب أن يعرفه الآباء والمستخدمون
إذا صادفت صورًا جنسية لقاصرين أو مواد مسيئة أخرى عبر الإنترنت، فأبلغ عنها على الفور. في الولايات المتحدة، يمكنك الاتصال بخط معلومات مكتب التحقيقات الفيدرالي (FBI) أو طلب المساعدة من المركز الوطني للأطفال المفقودين والمستغلين.
لا تقم بتنزيل المحتوى أو مشاركته أو التقاط لقطة شاشة له أو التفاعل معه بأي شكل من الأشكال. حتى عرض المواد غير القانونية أو إعادة توجيهها يمكن أن يعرضك لخطر قانوني كبير.
يجب على الآباء أيضًا التحدث مع الأطفال والمراهقين حول أدوات الصور التي تعمل بتقنية الذكاء الاصطناعي ومطالبات وسائل التواصل الاجتماعي. يتم إنشاء العديد من هذه الصور من خلال طلبات غير رسمية لا تبدو خطيرة في البداية. إن تعليم الأطفال كيفية الإبلاغ عن المحتوى وإغلاق التطبيقات وإخبار شخص بالغ موثوق به يمكن أن يمنع انتشار الضرر بشكل أكبر.
قد تفشل المنصة. يمكن أن تتراجع الدفاعات. لكن الإبلاغ المبكر والمحادثات الواضحة في المنزل من بين أكثر الطرق فعالية لحماية الأطفال عبر الإنترنت.
قم بإجراء الاختبار الخاص بي: ما مدى أمان أمانك على الإنترنت؟
هل تعتقد أن جهازك وبياناتك آمنة حقًا؟ قم بإجراء هذا الاختبار السريع لمعرفة موقف عاداتك الرقمية. بدءًا من كلمات المرور وحتى إعدادات Wi-Fi، ستحصل على تحليل مخصص لما تفعله بشكل صحيح وما يحتاج إلى تحسين. خذ اختباري هنا: Cyberguy.com
طريقة العربة الأصلية
فضيحة غروك تسلط الضوء على واقع خطير. ومع انتشار الذكاء الاصطناعي بسرعة، تعمل هذه الأنظمة على تضخيم الضرر على نطاق غير مسبوق. وعندما تفشل الضمانات، يعاني الأشخاص الحقيقيون ويواجه الأطفال مخاطر جسيمة. وفي الوقت نفسه، لا يمكن للثقة أن تعتمد على العفو الصادر بعد وقوع الضرر. وبدلاً من ذلك، يجب على الشركات أن تكتسب الثقة من خلال التصميمات الأمنية القوية، والمراقبة المستمرة، والمساءلة الحقيقية عند ظهور المشاكل.
هل ينبغي الموافقة على نظام الذكاء الاصطناعي للاستخدام الحكومي أو العام على نطاق أوسع قبل إثبات قدرته على حماية الأطفال بشكل موثوق ومنع سوء المعاملة؟ اكتب لنا واسمحوا لنا أن نعرف Cyberguy.com.
انقر هنا لتحميل تطبيق فوكس نيوز
قم بالتسجيل للحصول على تقرير CyberGuy المجاني الخاص بي
احصل على أفضل النصائح التقنية، والتنبيهات الأمنية العاجلة، والصفقات الحصرية التي يتم تسليمها مباشرة إلى صندوق الوارد الخاص بك. بالإضافة إلى ذلك، يمكنك الوصول الفوري إلى دليل Ultimate Scam Survival الخاص بي – مجانًا عند انضمامك إلي CYBERGUY.COM النشرة الإخبارية
حقوق الطبع والنشر 2025 CyberGuy.com. جميع الحقوق محفوظة
