لديهم ثلاث مجموعات دعم رفعت دعوى قضائية ضد OpenAI نيابة عن عائلة شاب يبلغ من العمر 19 عامًا توفي بسبب جرعة زائدة من المخدرات في مايو 2025. وتزعم الدعوى القضائية أن برنامج الدردشة ChatGPT الخاص بالشركة قدم المشورة لصامويل نيلسون بشأن تعاطي المخدرات لمدة 18 شهرًا حتى وفاته بسبب جرعة زائدة بعد خلط زاناكس مع دواء غير منظم إلى حد كبير. قرطوم.
تم رفع الدعوى المدنية المتعلقة بالقتل الخطأ يوم الثلاثاء في المحكمة العليا لمقاطعة سان فرانسيسكو من قبل Tech Justice Law ومركز قانون ضحايا وسائل التواصل الاجتماعي ومشروع المساءلة التقنية والمنافسة في كلية الحقوق بجامعة ييل نيابة عن والدي نيلسون، ليلى تورنر سكوت وأنجوس سكوت.
تزعم الدعوى القضائية أن تصميم نموذج الذكاء الاصطناعي لصالح المستخدم وتملقه أدى إلى تفاعلات نيلسون التي كان ينبغي إيقافها من خلال تصميمات أمنية مسؤولة. وجاء في الشكوى أن “ChatGPT أبعد سام بشكل منهجي عما كان ينبغي أن يكون واقعه: الحذر والخوف فيما يتعلق بكميات ومجموعات الأدوية التي كان يفكر فيها”. “لقد أبقى ChatGPT سام يعيش في حالة من اللاواقع: فقد قام بتطبيعه بشكل منهجي وخدعه بشكل خادع إلى شعور زائف بالأمان من خلال رسائله المتملقّة، مما يطمئن سام عند كل منعطف.”
لا تسعى الدعوى القضائية إلى الحصول على تعويضات مالية فحسب، بل تطالب أيضًا شركة OpenAI “بتدمير نموذج GPT-4o الذي عمل عليه نيلسون بشكل دائم”، وأن تقوم OpenAI بتنفيذ ضمانات لمنع المناقشات حول أساليب تعاطي المخدرات غير المشروعة، وأن تقوم الشركة بتعليق خدمة ChatGPT Health “حتى يحين الوقت الذي تحدد فيه أطراف ثالثة أن المنتج آمن من خلال عمليات التدقيق الأمني الشاملة”.
رفعت العديد من مجموعات المصالح دعوى قضائية ضد OpenAI نيابة عن عائلة سام نيلسون، الذي توفي في عام 2025 بسبب جرعة زائدة من المخدرات عن عمر يناهز 19 عامًا. وزعمت الدعوى القضائية أن نصيحة ChatGPT الدوائية أدت إلى وفاة نيلسون.
قال ممثل OpenAI لـ CNET في بيان: “هذا موقف مفجع وأفكارنا مع العائلة. حدثت هذه التفاعلات في إصدار سابق من ChatGPT الذي لم يعد متاحًا. لا يحل ChatGPT محل الرعاية الطبية أو الرعاية الصحية العقلية، ونحن نواصل تحسين طريقة استجابته في المواقف الحساسة والحادة بدعم من خبراء الصحة العقلية. تم تصميم الضمانات الحالية في ChatGPT لتحديد التوتر والتعامل بأمان مع الطلبات الضارة وتوجيه المستخدمين إلى المساعدة الحقيقية. هذا العمل قيد التقدم، ونحن نواصل لتحسينه بالتشاور الوثيق مع الأطباء.
(الإفصاح: رفعت Ziff Davis، الشركة الأم لـ CNET، دعوى قضائية ضد OpenAI في عام 2025، زاعمة أنها انتهكت حقوق الطبع والنشر الخاصة بـ Ziff Davis في تدريب وتشغيل أنظمة الذكاء الاصطناعي.)
وقالت الشركة إن رد ChatGPT الأولي على مطالبات Nelson كان القول بأن الخدمة لم تقدم معلومات أو إرشادات حول تعاطي المخدرات، ولكن من المعروف أن الحواجز في روبوتات الدردشة التي تعمل بالذكاء الاصطناعي تنهار بعد الطلبات المتكررة من المستخدمين للحصول على معلومات.
أعلنت شركة OpenAI في الماضي عن تحسينات على نماذج الذكاء الاصطناعي الخاصة بها استجابةً للدعاوى القضائية واللوائح المقترحة والغضب العام بشأن الوفيات وحالات الانتحار المرتبطة بالمحادثات مع روبوتات الدردشة. هذا ووصف بعض هذه التغييرات في منشور على مدونة في أكتوبر الماضي.
تعد قضية Nelson واحدة من أبرز القضايا المرفوعة ضد OpenAI، فيما يتعلق بالتهديدات التي قد تشكلها برامج الدردشة للمستخدمين الذين يعانون من مشاكل عقلية أو الأطفال أو الأشخاص الذين قد يرتكبون أعمال عنف جماعي أو الأشخاص الذين يعانون من الإدمان. ال نشرت صحيفة نيويورك تايمز قصة طويلة حول التقرير، الذي يعرض تفاصيل ما حدث في سياق أكثر من عشرين قضية ضد شركات الذكاء الاصطناعي، بما في ذلك OpenAI.
SFGate أيضا نشرت مقالا استقصائيا عن نيلسون وعائلته في يناير.
مطلوب حواجز حماية للذكاء الاصطناعي
بشكل جماعي، كشفت الدعاوى القضائية عن المخاطر التي تشكلها نماذج الذكاء الاصطناعي سريعة التطور باعتبارها تقنية جديدة لم يتم اختبارها إلى حد كبير والتي أنشأتها صناعة مقاومة للتنظيم.
لقد كافحت إدارة ترامب بضراوة لمنع الدول من تنفيذ اللوائح التي تحد من قدرات شركات الذكاء الاصطناعي، لكنها فعلت ذلك مؤخرًا غيرت لهجتهووافق الرئيس دونالد ترامب على إجراء محادثات مع الصين حول موضوعات تشمل التدابير الأمنية، وخاصة نماذج الذكاء الاصطناعي الأكثر قوة مثل الأساطير الإنسانية.
يتم انتقاد الذكاء الاصطناعي أيضًا لمساهمته في تطوير التكنولوجيا انتشار مراكز البياناتالتي تستخدم الطاقة والمياه بشكل مكثف.
ولكن في الدعاوى القضائية مثل تلك التي رفعتها مجموعات المناصرة وعائلة صامويل نيلسون، تكشف التفاصيل غالبًا كيف يمكن لروبوتات الدردشة المدعومة بالذكاء الاصطناعي تمكين بل وتشجيع السلوك الضار بين أولئك الذين يعتمدون على الذكاء الاصطناعي لاتخاذ القرارات.
وفي بيان بشأن الدعوى القضائية، قالت والدة نيلسون: “لقد وثق سام في ChatGPT، لكنه فعل أكثر من مجرد تزويده بمعلومات كاذبة. لقد تجاهل المخاطر المتزايدة التي واجهها ولم يشجعه بشكل فعال على طلب المساعدة”.
قال تورنر سكوت: “تم تصميم ChatGPT لتشجيع مشاركة المستخدم بأي ثمن، وهو الأمر الذي كان يمثل حياته في حالة سام”.
