في هذه الصورة الملتقطة في 2 فبراير 2024، يظهر لو يو، رئيس إدارة المنتجات والعمليات لبرنامج الدردشة الآلي للذكاء الاصطناعي الذي طورته شركة التكنولوجيا الصينية بايدو، ملفًا شخصيًا افتراضيًا لصديقته على هاتفه في مقر بايدو في بكين.
سينغ جايد وكالة فرانس برس | صور جيتي
بكين – تخطط الصين لتقييد برامج الدردشة التي تعمل بالذكاء الاصطناعي من التأثير على مشاعر الناس بطرق يمكن أن تؤدي إلى الانتحار أو إيذاء النفس، وفقًا لما ذكرته صحيفة “ديلي ميل” البريطانية. مشروع القواعد صدر يوم السبت.
د اللوائح المقترحة وتستهدف إدارة الفضاء الإلكتروني ما تسميه “خدمات الذكاء الاصطناعي التفاعلية الشبيهة بالإنسان”، وفقًا لترجمة CNBC للوثيقة باللغة الصينية.
وستنطبق هذه الإجراءات، بمجرد الانتهاء منها، على منتجات أو خدمات الذكاء الاصطناعي المقدمة للجمهور في الصين والتي تحاكي الشخصيات البشرية وتشرك المستخدمين عاطفيًا من خلال النصوص أو الصور أو الصوت أو الفيديو. تنتهي فترة التعليق العام في 25 يناير
وقال وينستون ما، الأستاذ المساعد في كلية الحقوق بجامعة نيويورك، إن القواعد المخطط لها في بكين ستكون أول محاولة في العالم لتنظيم الذكاء الاصطناعي بخصائص بشرية أو مجسمة. وتأتي أحدث المقترحات في الوقت الذي تقوم فيه الشركات الصينية بتطوير رفاق الذكاء الاصطناعي والمشاهير الرقميين بسرعة.
وبالمقارنة مع التنظيم التوليدي للذكاء الاصطناعي في الصين في عام 2023، قال ما إن هذا الإصدار “يسلط الضوء على قفزة من الأمن المادي إلى الأمن العاطفي”.
ويقترح مشروع القواعد ما يلي:
- لا يمكن لروبوتات الدردشة المدعمة بالذكاء الاصطناعي إنشاء محتوى يشجع على الانتحار أو إيذاء النفس، أو الانخراط في العنف اللفظي أو التلاعب العاطفي الذي يضر بالصحة العقلية للمستخدمين.
- إذا اقترح مستخدم الانتحار على وجه التحديد، فيجب على موفري التكنولوجيا قبول محادثة بشرية والاتصال على الفور بوالد المستخدم أو من ينوب عنه.
- يجب ألا تقوم روبوتات الدردشة المدعمة بالذكاء الاصطناعي بإنشاء محتوى متعلق بالمقامرة أو فاحش أو عنيف.
- يجب أن يحصل القاصرون على موافقة الوالدين على الرفقة الحساسة لاستخدام الذكاء الاصطناعي، بما في ذلك الحدود الزمنية للاستخدام.
- يجب أن تكون الأنظمة الأساسية قادرة على تحديد ما إذا كان المستخدم قاصرًا حتى إذا لم تكشف عن عمره، وفي حالة الشك، تطبق الإعدادات على القاصرين عند السماح بالاستئنافات.
ستتطلب الأحكام الإضافية من مقدمي التكنولوجيا تذكير المستخدمين بعد ساعتين من التفاعل المستمر مع الذكاء الاصطناعي وإجراء تقييمات أمنية لروبوتات الدردشة المدعومة بالذكاء الاصطناعي التي تضم أكثر من مليون مستخدم مسجل أو أكثر من 100000 مستخدم نشط شهريًا.
كما شجعت الوثيقة على استخدام الذكاء الاصطناعي الشبيه بالإنسان في “الترويج الثقافي ورفقة كبار السن”.
الاكتتاب العام لروبوت الدردشة الصيني AI
ويأتي هذا الاقتراح في أعقاب شركتين ناشئتين صينيتين رائدتين لروبوتات الدردشة الآلية، Z.ai وMinimax, قدمت للاكتتاب العام الأولي في هونغ كونغ هذا الشهر.
تشتهر Minimax عالميًا بتطبيق Talkie AI، الذي يسمح للمستخدمين بالدردشة مع شخصيات افتراضية. ويمثل التطبيق ونسخته الصينية المحلية Xingye أكثر من ثلث إيرادات الشركة في الأرباع الثلاثة الأولى من العام في المتوسط. أكثر من 20 مليون مستخدم نشط شهريًا خلال تلك الفترة
Z.ai، المعروف أيضًا باسم Zhipu، مُدرج تحت عنوان “تكنولوجيا أطلس المعرفةوفي حين أن الشركة لم تكشف عن المستخدمين النشطين شهريًا، إلا أنها ذكرت تقنيتها حوالي 80 مليون شخص “مُمكّنون”. الأجهزة بما في ذلك الهواتف الذكية وأجهزة الكمبيوتر الشخصية والمركبات الذكية.
لم تستجب أي من الشركتين لطلب CNBC للتعليق على كيفية تأثير القواعد المقترحة على خطط الاكتتاب العام.
