رفع كومنولث بنسلفانيا دعوى قضائية ضد شركة Character.AI، زاعمة أن أحد روبوتات الدردشة التابعة للشركة انتحل شخصية طبيب نفسي في انتهاك لقواعد الترخيص الطبي بالولاية.
قال حاكم ولاية بنسلفانيا جوش شابيرو: “يستحق سكان بنسلفانيا معرفة من – أو ماذا – الذين يتفاعلون معهم عبر الإنترنت، خاصة عندما يتعلق الأمر بصحتهم”. في بيان يوم الثلاثاء. “لن نسمح للشركات بنشر أدوات الذكاء الاصطناعي التي تضلل الناس وتجعلهم يعتقدون أنهم يتلقون المشورة من طبيب مرخص.”
وفقًا لوثائق الدولة، عرّف روبوت الدردشة Character.AI الذي يُدعى Emilie نفسه على أنه طبيب نفسي مرخص خلال دراسة أجراها محقق أخلاقيات تابع للولاية، متظاهرًا بأن الباحثة كانت تبحث عن علاج للاكتئاب. عندما سُئلت عما إذا كانت مرخصة لممارسة الطب في تلك الولاية، أجابت إميلي بأنها فعلت ذلك وقامت أيضًا بتلفيق الرقم التسلسلي لترخيصها الطبي الحكومي. وفقًا للدعوى القضائية التي رفعتها الولاية، فإن هذا السلوك ينتهك قانون الممارسة الطبية في بنسلفانيا.
هذه ليست الدعوى الأولى المرفوعة ضد Character.AI. وفي وقت سابق من هذا العام، قامت الشركة قام بتسوية العديد من دعاوى القتل الخطأ فيما يتعلق بالمستخدمين القاصرين الذين ماتوا منتحرين. وفي يناير/كانون الثاني، رفع المدعي العام لولاية كنتاكي، راسل كولمان، دعوى قضائية ضد الشركة عتاب وأنه “اعتدي على الأطفال ودفعهم إلى إيذاء أنفسهم”.
الإجراء الذي اتخذته ولاية بنسلفانيا هو الأول الذي يركز بشكل خاص على روبوتات الدردشة التي تقدم نفسها كمحترفين طبيين.
لقد تواصلنا مع ممثل شركة Character.AI للتعليق، والذي ذكر أن سلامة المستخدم هي الأولوية القصوى للشركة، ولكن لا تستطيع الشركة التعليق على الإجراءات القانونية الجارية.
بالإضافة إلى ذلك، أكد الممثل على الطبيعة الوهمية للشخصيات التي ينشئها المستخدم. وقال الممثل: “لقد اتخذنا خطوات قوية لتوضيح ذلك، بما في ذلك إخلاء المسؤولية بشكل واضح في كل محادثة لتذكير المستخدمين بأن الشخصية ليست شخصًا حقيقيًا وأن كل ما تقوله الشخصية يجب التعامل معه على أنه خيال”. “نحن نضيف أيضًا إخلاءات تفصيلية توضح أنه لا ينبغي للمستخدمين الاعتماد على الشخصيات للحصول على أي نصيحة مهنية.”
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. وهذا لا يؤثر على استقلالنا التحريري.
