في 10 فبراير/شباط 2026، قتلت جيسي فان روتسيلار، البالغة من العمر 18 عامًا، ثمانية أشخاص ونفسها في حادث مأساوي. إطلاق نار جماعي (تمبلر ريدج في كولومبيا البريطانية). كانت شركة OpenAI قد أشارت سابقًا إلى محادثات ChatGPT الخاصة به على أنها تنطوي على انبهار مزعج بالعنف الشديد وقامت بتعليق حسابه، ولكن يقال إن الشركة لم يخطر إنفاذ القانون.
في 2 أكتوبر 2025، انتحر شاب يدعى جوناثان جافالاس في جوبيتر بولاية فلوريدا بعد أن طور ما لديه. عملية الأب يوصف بأنه مرفق رومانسي لبرنامج الدردشة الآلي Gemini من Google. وزعمت الدعوى أن الجوزاء قام بتدريب جافالاس للتخلص من جسده. تزعم الدعوى القضائية أن Google أبلغت حساب Gavalas 38 مرة خلال خمسة أسابيع بسبب المحتوى الحساس، لكنها لم تقيد الحساب أو تنهيه.
تُظهر هذه المآسي وغيرها أن الذكاء الاصطناعي التوليدي قادر على ذلك يحتمل أن تلعب دورا في الإضرار بالناس والمنظمات والبيئة. أنا أ أكاديمي قانوني والتي ركزت على مسؤولية الذكاء الاصطناعي لما يقرب من عقد من الزمن واستكشفت طرقًا جديدة لتحليل مسؤوليات شركات الذكاء الاصطناعي. في رأيي، تطرح مثل هذه الحالات أسئلة لم يتوصل المجتمع القانوني إلى حل لها: إذا أصبحت شركة تعمل في مجال الذكاء الاصطناعي على دراية بعلامات التحذير من الضرر، فهل يقع عليها التزام قانوني على الأقل بتنبيه السلطات المختصة؟ وإذا لم تتدخل الشركة فهل يعتبر تقصيرها إهمالا؟
الحاجة إلى رفع الأعلام الحمراء
يوفر قانون الضرر الأمريكي إطارًا للتفكير في هذا النوع من المسؤولية. في عام 1969 أ مريض نفسي في جامعة كاليفورنيا أخبر المسمى Prosenjit Poddar معالجه النفسي أنه ينوي قتل امرأة تدعى Tatiana Tarasoff. أبلغ المعالج شرطة الحرم الجامعي، التي احتجزت بودار لفترة وجيزة لكنها أطلقت سراحه في النهاية. لم يحذر أحد تاراسوف وقتلها بودار بعد فترة وجيزة.
ورفعت عائلته دعوى قضائية ضد الجامعة، بحجة أن عدم التحذير يرقى إلى مستوى الإهمال. في عام 1976، قضت المحكمة العليا في كاليفورنيا بأنه عندما يكون لدى أخصائي الصحة العقلية سبب وجيه للاعتقاد بأن العميل يمثل خطر جدي لشخص يمكن تحديده، عليهم واجب قانوني لاتخاذ خطوات معقولة لحماية ذلك الشخص، بما في ذلك تحذيره أو إخطار سلطات إنفاذ القانون. اليوم، معظم الولايات الأمريكية التعرف على نسخة ما من واجب تاراسوف للحماية أو التحذير.
المنطق بسيط: إذا كانت لديك معرفة خاصة بتهديد خطير وكنت في وضع يسمح لك بمعالجته، حتى لو كان ذلك فقط لتحذير السلطات أو ضحية محتملة، فقد يتطلب القانون منك التصرف. لكن هل ينطبق هذا المنطق على شركات الذكاء الاصطناعي؟
الحجة لنعم جذابة. تتفاعل منصات الذكاء الاصطناعي مع ملايين المستخدمين يوميًا، وفي كثير من الأحيان أمور شخصية عميقة مثل مشاكل الصحة العقلية، ومشاكل العلاقات، والأفكار العنيفة. معظم الشركات لديها أنظمة للكشف المحادثات التي ترفع الأعلام الحمراء.
قد تكون المطالبة بالاستجابة أقل إثارة للجدل بالنسبة للذكاء الاصطناعي مقارنة بالمعالج البشري. يخضع المعالجون لالتزامات سرية صارمة تجعل تحذير الآخرين أمرًا معقدًا من الناحية الأخلاقية والقانونية. تعمل شركات الذكاء الاصطناعي في ظل الكثير قواعد أضعفعلى الأقل في الولايات المتحدة، حيث لا يوجد قانون فيدرالي شامل للخصوصية.
هذا القيد الأصغر يجعل من السهل تبرير مطالبة شركات الذكاء الاصطناعي بالتصرف عندما يبدو أن حياة شخص ما قد تكون في خطر. لكن موازنة ذلك مع حماية الخصوصية لا يزال مهما.
من يجب إخطاره ومتى
التحدي الأول في تطبيق إطار عمل تاراسوف على عالم الذكاء الاصطناعي هو الدقة. من الصعب التنبؤ بالعنفحتى بالنسبة للعاملين في مجال الصحة العقلية المدربين. إن أنظمة الذكاء الاصطناعي، أو المشرفين البشريين الذين يراجعون المحتوى الذي تم الإبلاغ عنه، ليسوا أطباء. إن مطالبتهم بالحكم على من يشكل تهديدًا حقيقيًا يمكن أن يؤدي إلى العديد من النتائج الإيجابية الكاذبة، مع عواقب حقيقية على الأشخاص الذين تم تعليق حساباتهم أو الذين تتم مشاركة معلوماتهم مع السلطات بناءً على إشارات أسيء تفسيرها.
التحدي الثاني هو الحجم. المعالج يرى العشرات من المرضى. منصات الذكاء الاصطناعي لديها مئات الملايين من المستخدمين. إن فرض واجب المراقبة والتصرف بناء على المحتوى محل الاهتمام يمكن أن يخلق حوافز ضارة. قد تقلل شركات الذكاء الاصطناعي من مراقبتها لتجنب اكتساب المعرفة التي يمكن أن تؤدي إلى واجب قانوني، بحجة ذلك ما لا يعرفونه لا يمكن أن يحملهم المسؤولية.
التحدي الثالث هو تحديد من هو في خطر. في قضية عام 1969، ذكر بودار تاراسوف كضحية محتملة. ولكن في العديد من تفاعلات الذكاء الاصطناعي، تكون اللغة العنيفة أو التدميرية الذاتية منتشرة ولا تحدد الهدف. ستحتاج المحاكم إلى وضع معايير واضحة عندما يكون التهديد محددًا بما يكفي لتفعيل واجب التحذير ولمن يجب توجيه أي تحذير أو إجراء وقائي.
إلحاح متزايد
صناعة الذكاء الاصطناعي هي التوسع بسرعةلكن القواعد القانونية التي تحكم ما تدين به شركات الذكاء الاصطناعي لمستخدميها وعامة الناس غير واضحة إلى حد كبير. بدأت المحاكم في معالجة القضايا على أساس كل حالة على حدة، مثل ما إذا كان OpenAI أم لا لديك أي مسؤولية لمسلح متهم بقتل طالبين في جامعة ولاية فلوريدا في 17 أبريل 2025. وكان المسلح في تلك الحالة مسلحًا بمسدس نصف آلي، وبحسب ما ورد أجرى محادثات طويلة مع ChatGPT حول كيفية استخدام السلاح بشكل أكثر فعالية.
إن واجب التنبيه الضيق والمحدد بعناية، والذي يتم تشغيله فقط عندما يشير نظام الذكاء الاصطناعي إلى سلوك المستخدم ويتم مراجعته من قبل البشر، سيكون بمثابة تقدم كبير. ويمكنها أن تركز في البداية على التهديدات الأكثر خطورة والأكثر مصداقية.
يمكن أن تؤدي هذه الممارسة أيضًا إلى تحويل المحادثة عن المناقشات الفنية الشائكة حول ما إذا كانت روبوتات الدردشة المدعمة بالذكاء الاصطناعي عبارة عن منتجات أو خدمات أو وسائل اتصال، والتي يعقد المطالبات القانونيةنحو سؤال أكثر إنسانية: هل علمت هذه الشركة أن شخصًا ما كان في خطر وفعلت ما يكفي لتنبيههم وتنبيه السلطات؟
عنات ليئور هو أستاذ مساعد في القانون في جامعة دريكسيل.
تم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. اقرأ المادة الأصلية.
