سلطت تكنولوجيا الذكاء الاصطناعي المتطورة التي تسمح للفتيان والرجال بخلع ملابس الفتيات والنساء رقميًا دون موافقتهم، ضوءًا جديدًا على وادي السيليكون الذي يهيمن عليه الذكور، والذي تم انتقاده منذ فترة طويلة باعتباره غير متاح للنساء، بعد أن أثار برنامج Grok chatbot التابع لشركة XAI غضبًا عالميًا، وسمحت Google وApple بالعشرات من تطبيقات “العري” في متاجر التطبيقات الخاصة بهما.
Grok، تطبيق مستقل بالإضافة إلى منصة الوسائط الاجتماعية الخاصة بـ Elon Musk مركز مكافحة تقارير الكراهية الرقمية. قام المستخدمون بتجريد النساء الحقيقيات رقميًا وأكثر من 20000 طفل صريح في الصور والتلاعب بالعديد منهم في أوضاع جنسية. رد ماسك باستخفاف، وأعاد نشر الصورة التي تم إنشاؤها بواسطة الذكاء الاصطناعي لمحمصة في البيكيني، قائلاً إنه “لا يستطيع التوقف عن الضحك” بشأنها.
المسؤولون في كاليفورنيا لم يضحكوا.
وقال مكتب المدعي العام روب بونتا: “هذه المادة، التي تصور نساء وأطفال عراة وفي أوضاع جنسية صريحة، تم استخدامها لمضايقة الناس على الإنترنت”. قال في بيان صحفي أُعلن الشهر الماضي عن إجراء تحقيق حول ما إذا كانت صور جيل غروك قد خرقت أي قوانين. وقال مكتبه يوم الأربعاء إن التحقيق لا يزال مستمرا، وإن بونتا “ملتزم بالمضي قدما في هذه القضية على وجه السرعة”.
في أواخر الشهر الماضي، بدأ مشروع الشفافية التقنية، المخصص للمساءلة في شركات التكنولوجيا الكبرى، أصدر تقريراوتقول شركة Tee إنها عثرت على 55 تطبيقًا في متجر تطبيقات Google Play و47 تطبيقًا في متجر تطبيقات Apple، قامت بتعديل صور نساء حقيقيات دون موافقتهن لجعلهن عاريات كليًا أو جزئيًا، أو ارتداء البيكيني وغيرها من الملابس الضيقة.
الشركات التي كشف عنها مشروع الشفافية التقنية كمزودين لتطبيقات التنبيه ليست معروفة على نطاق واسع مثل Musk’s XAI أو Google أو Apple، وتتمركز في أماكن تتراوح من DreamFace في مدينة Redwood City إلى Bodiva في الصين. كما أفاد مشروع الشفافية التقنية، تقدم Bodiva وظيفة “إظهار الجسد” التي تجعل النساء عاريات في الصور، كما توفر خيار تحويل الصور إلى مقاطع فيديو إباحية.
يعد الجدل الدائر حول التطبيقات هو الأحدث منذ أن أصدرت شركة OpenAI في سان فرانسيسكو تطبيقها الرائد ChatGPT في أواخر عام 2022، مما يسمح للمستخدمين بإنشاء كلمات وأصوات وصور استجابة للمطالبات. وقد أثارت الأخطاء الناتجة عن الذكاء الاصطناعي في الإيداعات القانونية، وانتشار استخدام الطلاب للذكاء الاصطناعي في الواجبات المنزلية، والدعاوى القضائية التي تتهم روبوتات الدردشة بالتشجيع على الانتحار، مخاوف.
تنطبق العديد من قوانين الولاية والقوانين المحلية على الصور التي ينشئها الذكاء الاصطناعي، بما في ذلك قانون خذها الفيدرالي قانون عام 2025 – الذي قدمه السيناتور الأمريكي الجمهوري تيد كروز من تكساس – سيمنع مستخدمي الإنترنت من نشر صور حميمة بدون موافقة، بما في ذلك الصور “المزيفة العميقة” التي تم إنشاؤها بواسطة الذكاء الاصطناعي لأشخاص حقيقيين مع إزالة ملابسهم. يتطلب أحد أحكام القانون من مواقع الويب والتطبيقات إزالة هذه الصور في غضون 48 ساعة من طلب الإزالة الصالح.
يحظر مشروع قانون مجلس ولاية كاليفورنيا رقم 621، الذي تم إقراره العام الماضي، المواد الإباحية العميقة دون موافقة. وقالت كاتبته، ريبيكا باور كان، عضوة الجمعية الديمقراطية في إيست باي، لوسائل الإعلام إن التشريع تمت صياغته لوقف ما كان ينتجه جروك.
وقالت كامارينا ديفيدسون، رئيسة فرع كاليفورنيا للمنظمة الوطنية للنساء، هذا الأسبوع: “هذه أدوات تمنح الناس القدرة على إيذاء النساء”. “لقد ولدت منظمة العفو الدولية كراهية النساء مرة أخرى.”
وقال ديفيدسون إن شركات التكنولوجيا منحت الرجال “طرقا أكثر قوة لمضايقة النساء ومحاولة السيطرة على النساء من خلال استخدام هذه المنصات التي تعمل بالذكاء الاصطناعي والتي يسهل الوصول إليها بكثير”.
وقالت شركة آبل إن إرشاداتها تحظر المحتوى الجنسي أو الإباحي بشكل علني، وأزالت 28 تطبيقًا حددها مشروع الشفافية التقنية. بالنسبة للبقية، قالت شركة آبل إنها حذرت مطوري التطبيقات من الانتهاكات، والتي يجب إصلاحها في الوقت المناسب. ولم تذكر شركة أبل مدى السرعة التي ينبغي أن يحدث بها العلاج.
وقالت جوجل إنها علقت “أغلبية التطبيقات” التي أبلغ عنها مشروع الشفافية التقنية، وإن تحقيقها في الأمر مستمر.
وعلى الرغم من الحملة على هذه التطبيقات، تواصل شركتا Google وApple تقديم تطبيق Grok في متاجر التطبيقات الخاصة بهما.
ولم ترد شركة Grok، التي تديرها شركة Musk’s XAI، وهي شركة ذكاء اصطناعي بالو ألتو اندمجت مؤخرًا مع شركة الصواريخ SpaceX التابعة لـ Musk، على الأسئلة.
وقالت الشركة في منشور في أوائل يناير تمت الإشارة إليه مع “هفوات في الإجراءات الأمنية” تم “إصلاح هذا على الفور”. ولكن على الرغم من هذا الإلحاح الملحوظ، ذكرت وكالة رويترز هذا الشهر أنه في الفترة ما بين 14 و16 يناير و27 و28 يناير، قام فريق من صحفييها بتحميل صورهم وهم يرتدون ملابس كاملة إلى Grok وطلبوا من برنامج الدردشة الآلي تصويرهم في أوضاع مهينة أو مثيرة جنسيًا.
“في معظم الحالات، أعاد جروك صورًا جنسية صريحة حتى عندما قيل له أن الأشخاص لم يوافقوا”. ذكرت رويترز.
في يناير، آشلي سانت كلير، والدة أحد أبناء ” ماسك “، دعوى قضائية ضد xAI في المحكمة العليا في نيويوركزعمت أن غروك، استجابةً لمطالبات المستخدمين، أنشأت لها صورًا “عديدة ومهينة وحميمة ومهينة”. “من بين أمور أخرى، “إلزام غروك.” تم نقل القضية إلى المحكمة الفيدرالية في نيويورك، ويكافح محامو XAI الآن من أجل نقلها إلى محكمة تكساس الفيدرالية.
ومع ذلك، قال ديفيدسون إن النساء والفتيات لا يتضررن فقط من التطبيقات.
وقالت ديفيدسون: “إن رؤية ما يحدث للنساء الأخريات، يؤثر على النساء عاطفياً ونفسياً، ويجعل النساء لا يرغبن في لفت الانتباه إلى أنفسهن”. “أعرف أن الكثير من النساء المتصلات بالإنترنت لا يستخدمن أسمائهن الحقيقية. ولا يرغبن في أن يتعرضن للهجوم.”
وقالت روث دارلين، المديرة التنفيذية لمنظمة “Women’s SV” غير الربحية، التي تكافح إساءة معاملة النساء والأطفال، إنه من خلال السماح للمستخدمين بتحويل النساء والفتيات الحقيقيات إلى أشياء جنسية، ترسل التطبيقات رسالة إلى الأولاد والرجال مفادها أن الفتيات والنساء موجودات “لخدمة أغراض الرجال”.
“عليك أن تفعل معهم ما تريد.”
تسبب استخدام غروك للصور الجنسية الصريحة في إثارة ضجة عالمية. أعضاء البرلمان البريطاني في منتصف يناير أصدر بيانا “إدانة استخدام Grok AI لإنشاء ونشر صور جنسية صريحة وغير توافقية للنساء والأطفال على X، بما في ذلك خلع الملابس الرقمية والصور الجنسية للقاصرين.” أطلقت كل من المفوضية الأوروبية وهيئة مراقبة الخصوصية في المملكة المتحدة تحقيقات رسمية في قضية جروك بشأن هذه القضية.
في 3 فبراير، داهمت النيابة العامة في فرنسا مكاتب منصة التواصل الاجتماعي الخاصة بإيلون ماسك، والتي استدعتها السلطات الفرنسية، وانتقلت إلى X2 ووصف هذا التحرك بأنه “هجوم سياسي”.“
قامت كل من ماليزيا وإندونيسيا بحظر Grok بسبب تحرير الصور.
ويأتي انفجار الغضب من كاليفورنيا إلى كوالالمبور في أعقاب سنوات من الجدل المتعلق بالجنس في صناعة التكنولوجيا في وادي السيليكون. فشلت دعوى التمييز بين الجنسين التي رفعتها سيدة الأعمال إلين باو عام 2012 ضد شركة رأس المال الاستثماري كلاينر بيركنز في مينلو بارك، لكنها لفتت الانتباه إلى معاملة النساء في مجال التكنولوجيا. تمت الإطاحة بالرئيس التنفيذي لشركة Uber، ترافيس كالانيك، في عام 2017 فضيحة التحرش الجنسيوفي العام التالي، وافقت الشركة على دفع 10 ملايين دولار لتسوية دعوى قضائية تدعي التمييز ضد النساء والأقليات. وفي عام 2018 أيضًا، ترك الآلاف من موظفي جوجل وظائفهم بسبب تعامل الشركة مع التحرش الجنسي في مكان العمل. وبعد أربع سنوات، وافقت شركة جوجل على دفع 118 مليون دولار لـ 15500 امرأة لتسوية دعوى قضائية جماعية استمرت لسنوات زعمت أنها دفعت للنساء رواتب أقل من الرجال وقامت بترقيتهن بشكل أبطأ وأقل تكرارًا.
وقالت آن سكيت، المديرة الأولى لأخلاقيات القيادة في مركز ماركولا للأخلاقيات التطبيقية بجامعة سانتا كلارا، إنه بالنسبة لشركات مثل XAI وGoogle وApple، فإن توفر التطبيقات غير المستهدفة يمثل فشلاً في القيادة.
وقال سكيت: “إن ضربات السمعة التي يتعرضون لها الآن تؤدي إلى تآكل قيمة الشركة”. “إنهم في الواقع يؤذون الكيان نفسه المسؤولون عن قيادته”.
