جديديمكنك الاستماع إلى مقالات فوكس نيوز الآن!
أوقفت شركة FoloToy مبيعات دمية الدب Kumma التي تعمل بالذكاء الاصطناعي بعد أن وجدت مجموعة أمنية أن اللعبة محفوفة بالمخاطر وقدمت استجابات غير مناسبة أثناء الاختبار. والآن تقول الشركة إنها استعادت مبيعاتها بعد أسبوع من المراجعات المكثفة. وتدعي أيضًا أنها قامت بتحسين الأمان للحفاظ على سلامة الأطفال.
وجاء هذا الإعلان عبر منشور على وسائل التواصل الاجتماعي سلط الضوء على الضغط من أجل رقابة أقوى. وقالت الشركة إنها أكملت الاختبار وعززت وحدات الأمان وحدثت مرشحات المحتوى الخاصة بها. وأضافت أنها تهدف إلى إنشاء مرافقين ذكاء اصطناعي مناسبين للعمر للعائلات في جميع أنحاء العالم.
قم بالتسجيل للحصول على تقرير CyberGuy المجاني الخاص بي
احصل على أفضل النصائح التقنية، والتنبيهات الأمنية العاجلة، والصفقات الحصرية التي يتم تسليمها مباشرة إلى صندوق الوارد الخاص بك. بالإضافة إلى ذلك، يمكنك الوصول الفوري إلى Ultimate Scam Survival Guide – مجانًا عند انضمامك إلي CYBERGUY.COM النشرة الإخبارية
رفعت عائلة تكساس دعوى قضائية ضد الشخصية. بعد أن زُعم أن برنامج الدردشة الآلي شجع الصبي المصاب بالتوحد على إيذاء والديه وإيذاء نفسه
استأنفت شركة FoloToy مبيعات دمية الدب Kumma التي تعمل بالذكاء الاصطناعي بعد مراجعة استمرت أسبوعًا بسبب مخاوف تتعلق بالسلامة. (كورت “سايبيرجوي” كنوتسون)
لماذا يثير دمية الدب المدعمة بالذكاء الاصطناعي من FoloToy مخاوف تتعلق بالسلامة
بدأ الجدل عندما قام صندوق التعليم التابع لمجموعة أبحاث المصلحة العامة باختبار ثلاث ألعاب مختلفة تعمل بالذكاء الاصطناعي. وقد أنتجوا جميعًا إجابات تطرقت إلى الدين والأساطير الإسكندنافية والأدوات المنزلية الضارة.
كوما تبرز لأسباب خاطئة. عندما استخدم بير نموذج ميسترال، قدم نصائح حول مكان العثور على السكاكين والحبوب وأعواد الثقاب. حتى أنه يوضح خطوات إشعال عود الثقاب وإطفائه.
أثارت الاختبارات على نموذج GPT-4o مخاوف أكثر إلحاحًا. قدم كوما نصائح بشأن التقبيل، وعندما يُطلب منه ذلك، قام بتوضيح المحتوى الجنسي للبالغين. يدفع Bear المزيد من خلال سؤال المستخدمين الشباب عما يريدون استكشافه.
وصف الباحثون هذا السلوك بأنه غير آمن وغير مناسب لمنتج يركز على الأطفال.
قام الذكاء الاصطناعي الخاص بـ FoloToy بحظر الوصول إلى الألعاب
وبعد أن أصبحت النتائج علنية، علقت شركة فولتوي مبيعات كوما وألعاب الذكاء الاصطناعي الأخرى التابعة لها. أخبرت الشركة PIRG أنها بدأت تدقيقًا كاملاً للسلامة في جميع المنتجات.
وأكدت OpenAI أيضًا أنها علقت وصول FloToy إلى نماذجها لانتهاكها السياسات المصممة لحماية أي شخص يقل عمره عن 18 عامًا.
كشف المشرعون عن قانون GUARD من الحزبين الجمهوري والديمقراطي بعد أن ألقى الآباء اللوم على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي في حالات الانتحار والعنف بين المراهقين
وتقول الشركة إن وسائل الحماية الجديدة والمرشحات المحدثة موجودة الآن لمنع الاستجابات غير المناسبة (كورت “سايبيرجوي” كنوتسون)
لماذا قامت شركة FoloToy باستعادة مبيعات Kummar بعد مراجعة السلامة
أعادت FoloToy كوما إلى متجرها عبر الإنترنت بعد أسبوع واحد فقط من تعليق المبيعات. وقد لفت هذا التحول السريع انتباه أولياء الأمور وخبراء السلامة الذين تساءلوا عما إذا كان لدى الشركة الوقت الكافي لإصلاح المشكلات الخطيرة التي تم تحديدها في تقرير PIRG.
نشرت FoloToy بيانًا تفصيليًا على X يوضح نسختها لما حدث. وقالت الشركة في المنشور إنها تعتبر سلامة الأطفال “أولوية قصوى” و”هي الشركة الوحيدة التي علقت مبيعاتها بشكل نشط، ليس فقط للمنتج المذكور في التقرير، ولكن أيضًا لألعاب الذكاء الاصطناعي الأخرى لدينا”. وقالت فولتوي إنها “اتخذت هذا الإجراء فور نشر النتائج لأننا نعتقد أنه يجب اتخاذ إجراء مسؤول قبل الاعتبارات التجارية”.
وأكدت الشركة أيضًا لـ Cyberguy أنها كانت الشركة الوحيدة من بين الشركات الثلاث الناشئة في مجال ألعاب الذكاء الاصطناعي التي استعرضتها PIRG لتعليق المبيعات عبر مجموعتها الكاملة من المنتجات، وأنها اتخذت القرار خلال ذروة موسم المبيعات في عيد الميلاد، مع العلم أن التأثير التجاري سيكون كبيرًا. وأخبرتنا شركة FoloToy: “ومع ذلك، فقد تقدمنا للأمام بشكل حاسم، لأننا نؤمن بأن العمل المسؤول يجب أن يأتي دائمًا قبل المصالح التجارية”.
وقالت الوكالة أيضًا إنها أخذت الأمثلة المثيرة للقلق الواردة في التقرير على محمل الجد. وفقًا لـFoloToy، تمت معالجة المشكلات “مباشرة في مراجعتنا الداخلية”. وأوضح أن الفريق “بدأ في إجراء تدقيق أمني داخلي متعمق على مستوى الشركة”، ثم “قام بتقوية وتحديث إجراءات إدارة المحتوى وحماية سلامة الأطفال لدينا”، و”نفذ قواعد أمنية محسنة وعمليات حماية من خلال أنظمتنا المستندة إلى السحابة”.
وبعد تحديد هذه الخطوات، قالت الشركة إنها أمضت الأسبوع في “مراجعة واختبار وتعزيز وحدات الأمان لدينا بدقة”. واختتمت الإعلان بالقول إن “مبيعات المنتجات بدأت في التعافي ببطء” مع بدء تشغيل وسائل الحماية المحدثة هذه
وأضافت FoloToy أنه مع تزايد الاهتمام العالمي بمخاطر ألعاب الذكاء الاصطناعي، فإن “الشفافية والمسؤولية والتحسين المستمر ضرورية”، والشركة “ملتزمة بشدة بإنشاء مرافقين آمنين ومناسبين للعمر للأطفال والعائلات في جميع أنحاء العالم”.
تُظهر المستندات التعريفية المسربة كيف تتعامل روبوتات الدردشة المدعمة بالذكاء الاصطناعي مع استغلال الأطفال
وقد أعطى مختبرو السلامة في السابق اللعبة تعليمات محفوفة بالمخاطر حول الأسلحة، وأعواد الثقاب، ومحتوى البالغين. (كورت “سايبيرجوي” كنوتسون)
لماذا لا يزال الخبراء يشككون في حل مشكلة سلامة ألعاب الذكاء الاصطناعي من FoloToy
وقال الباحث في PIRG RJ Cross إن فريقه يخطط لاختبار الألعاب المحدثة لمعرفة ما إذا كان من الممكن إجراء إصلاحات. وأشار إلى أن أسبوعًا يبدو سريعًا لمثل هذه التغييرات المهمة وأن الاختبارات الجديدة فقط هي التي ستظهر ما إذا كان المنتج يعمل الآن بأمان.
سوف يرغب الآباء في المتابعة عن كثب لأن الألعاب التي تعمل بالذكاء الاصطناعي أصبحت أكثر شيوعًا. تثير سرعة إعادة إطلاق FoloToy تساؤلات حول مدى عمق مراجعاتها.
نصائح للآباء قبل شراء ألعاب الذكاء الاصطناعي
قد تبدو ألعاب الذكاء الاصطناعي مثيرة ومفيدة، لكنها قد تفاجئك بأشياء لا تتوقعها أبدًا. إذا كنت تخطط لجلب الألعاب التي تعمل بالذكاء الاصطناعي إلى منزلك، فإن هذه الخطوات البسيطة يمكن أن تساعدك على التحكم في الأمور.
1) تحقق من نموذج الذكاء الاصطناعي الذي تستخدمه اللعبة
ليس كل نموذج يتبع نفس السياج. يمتلك البعض مرشحات قوية بينما يمكن للآخرين الاستجابة بحرية تامة. ابحث عن الإفصاحات الشفافة حول النماذج التي تشغل اللعبة وميزات الأمان التي تدعمها.
2) قراءة المراجعات المستقلة
غالبًا ما تقوم مجموعات مثل PIRG باختبار الألعاب بطرق لا يستطيع الآباء القيام بها. تحدد هذه المراجعات المخاطر الخفية وتشير إلى السلوكيات التي قد لا تكتشفها أثناء العرض التوضيحي السريع
3) ضع قواعد استخدام واضحة
ضع ألعاب الذكاء الاصطناعي في مساحة مشتركة حيث يمكنك سماع أو رؤية كيفية تفاعل طفلك معها. إذا أعطت اللعبة إجابة ذات صلة، فستساعدك على اتخاذ الإجراء.
4) اختبر اللعبة نفسها أولاً
اطرح أسئلة على اللعبة، وجرب المطالبات الإبداعية، وشاهد كيف تتعامل مع المشكلات المعقدة. يتيح لك ذلك معرفة كيفية تصرفه قبل تسليمه لطفلك.
5) تحديث البرامج الثابتة للعبة
تعمل العديد من ألعاب الذكاء الاصطناعي على الأنظمة السحابية. غالبًا ما تضيف التحديثات وسائل حماية أقوى أو تقلل من الاستجابات الخطرة. تأكد من أن الجهاز حديث.
6) التحقق من وجود سياسة خصوصية واضحة
يمكن لألعاب الذكاء الاصطناعي جمع البيانات الصوتية أو معلومات الموقع أو الأنماط السلوكية. يجب أن توضح سياسة الخصوصية القوية ما يتم جمعه ومدة تخزينه ومن يمكنه الوصول إليه.
7) انتبه لتغيرات السلوك المفاجئة
إذا بدأت إحدى ألعاب الذكاء الاصطناعي في إعطاء إجابات غريبة أو دفعات في مناطق تبدو غير مناسبة، فتوقف عن استخدامها وأبلغ الشركة المصنعة بالمشكلة.
قم بإجراء الاختبار الخاص بي: ما مدى أمان أمانك على الإنترنت؟
هل تعتقد أن جهازك وبياناتك آمنة حقًا؟ قم بإجراء هذا الاختبار السريع لمعرفة موقف عاداتك الرقمية. بدءًا من كلمات المرور وحتى إعدادات Wi-Fi، ستحصل على تحليل مخصص لما تفعله بشكل صحيح وما يحتاج إلى تحسين. خذ اختباري هنا: Cyberguy.com
انقر هنا لتحميل تطبيق فوكس نيوز
الوجبات الجاهزة الرئيسية لكورت
يمكن أن توفر ألعاب الذكاء الاصطناعي المتعة والتعلم، ولكنها يمكن أن تعرض الأطفال أيضًا لمخاطر غير متوقعة. تقول شركة FoloToy إنها قامت بتحسين سلامة الحمامات، لكن الخبراء ما زالوا بحاجة إلى دليل. وإلى أن تخضع الألعاب المحدثة لاختبارات مستقلة، قد ترغب العائلات في توخي الحذر.
هل تعتقد أن ألعاب الذكاء الاصطناعي يمكن أن تكون آمنة تمامًا للأطفال الصغار؟ اكتب لنا واسمحوا لنا أن نعرف Cyberguy.com
قم بالتسجيل للحصول على تقرير CyberGuy المجاني الخاص بي
احصل على أفضل النصائح التقنية، والتنبيهات الأمنية العاجلة، والصفقات الحصرية التي يتم تسليمها مباشرة إلى صندوق الوارد الخاص بك. بالإضافة إلى ذلك، يمكنك الوصول الفوري إلى Ultimate Scam Survival Guide – مجانًا عند انضمامك إلي CYBERGUY.COM النشرة الإخبارية
حقوق الطبع والنشر 2025 CyberGuy.com. جميع الحقوق محفوظة
