البابا ليو يصدر تحذيرات بشأن الذكاء الاصطناعي والأسلحة المستقلة

دعا البابا ليو الحكومات إلى إبطاء وتنظيم تطوير أنظمة الذكاء الاصطناعي عن كثب في أول وثيقة رئيسية له، صدرت يوم الاثنين، محذرًا من أنها تنشر معلومات مضللة، وتعطي الأولوية للصراعات، وتخاطر بجر العالم إلى طريق حرب لا نهاية لها.

كما أعرب البابا الأمريكي الأول عن قلقه إزاء حدث في الفاتيكان أصدر نصًا مفاده أن بعض أنظمة الأسلحة المستقلة قد تطورت “عمليًا بعيدًا عن أي متناول بشري للتحكم فيها”.

كما حضر الحفل كريس أولاه، المؤسس المشارك لشركة Anthropic، إحدى شركات الذكاء الاصطناعي الرائدة في العالم.

ووجه ليو، الذي تبنى لهجة أكثر قوة في الأشهر الأخيرة وأثار غضب الرئيس الأمريكي دونالد ترامب بعد انتقاده للحرب الإيرانية، سلسلة من النداءات الحماسية لزعماء العالم في الوثيقة المطولة، المعروفة باسم الرسالة العامة.

ودعا البابا الأمريكي الأول إلى عدم ترك ملكية بيانات الذكاء الاصطناعي في أيدي القطاع الخاص فقط، ودعا صناع السياسات إلى حماية حقوق العمال والحفاظ على سلامة الأطفال من التكنولوجيا، ودعا إلى تهدئة المنافسة بين شركات الذكاء الاصطناعي.

وقال ليو في النص الذي يحمل عنوان “الإنسانية الرائعة” إن “المطلوب هو مشاركة سياسية أكثر نشاطا، قادرة على إبطاء الأمور عندما يتسارع كل شيء”.

ودعا البابا إلى “أطر قانونية قوية وإشراف مستقل ومستخدمين مطلعين ونظام سياسي لا يتخلى عن مسؤوليته”.

المنشورات العامة هي واحدة من أعلى أشكال التعليم الذي يوجهه البابا إلى 1.4 مليار عضو في الكنيسة. إن نص يوم الاثنين المرتقب، والذي يبلغ طوله حوالي 43000 كلمة، كان قيد الإعداد تقريبًا منذ انتخاب ليو بابا الفاتيكان قبل ما يزيد قليلاً عن عام.

كما نددت الوثيقة، التي تناولت الذكاء الاصطناعي كموضوع رئيسي، بعدد الحروب التي تجتاح العالم، وأعربت عن أسفها لضعف المنظمات المتعددة الأطراف وحذرت من أن أرباح صناعة الأسلحة كانت قوة دافعة وراء الصراعات.

وقال ليو في النص المكتوب باللغة الإنجليزية: “لقد تميزت السنوات الستين الماضية بصراعات وحشية مفاجئة، وغالباً ما أثرت على السكان المدنيين على نطاق واسع”.

وقال: “إن الإنسانية تنزلق إلى ثقافة القوة العنيفة، حيث لم يعد السلام يبدو كمسؤولية يجب تحملها، بل كفاصل هش بين الصراعات”.

وفي حدث الفاتيكان يوم الاثنين، شكر أولاه، المؤسس المشارك لشركة Anthropic، ليو على معالجة القضايا التي أثارتها التكنولوجيا الجديدة المدمرة. وقال إن الشركات مثله تواجه ضغوطا تجارية قوية وتحتاج إلى تدقيق خارجي.

قال أولاه: “يعمل كل مختبر متطور للذكاء الاصطناعي، بما في ذلك مختبر الأنثروبي، ضمن مجموعة من الحوافز والقيود التي يمكن أن تتعارض أحيانًا مع القيام بالشيء الصحيح”. Anthropic هي الشركة التي تنتج أدوات Claude AI.

وفي رسالته العامة، أدلى ليو أيضًا بواحد من أوضح التصريحات التي أدلى بها البابا الذي رفض نظرية الحرب العادلة، وهي العقيدة التي استخدمتها الكنيسة منذ القرن الخامس على الأقل لتقييم الصراعات العالمية.

وهذا المبدأ، الذي ينص عمومًا على أن الحروب “يجب خوضها فقط للدفاع ضد العدوان”، استشهد به أيضًا مسؤولو إدارة ترامب، بما في ذلك نائب الرئيس جي دي فانس، وهو كاثوليكي، للدفاع عن حرب إيران.

وكتب ليو: “إن نظرية “الحرب العادلة”، التي كثيرا ما تستخدم لتبرير أي نوع من الحرب، أصبحت الآن عفا عليها الزمن”.

“إن استخدام القوة والعنف والأسلحة يعكس فقر العلاقات الذي يؤدي دائمًا إلى عواقب وخيمة على السكان المدنيين”.

كما أعرب ليو عن قلقه من أن يبدأ القادة الحروب لإلهاء المواطنين عن القضايا الداخلية.

وقال: “لا يمكننا أن نستبعد احتمال أن يعتبر بعض القادة الصراع المسلح وسيلة فعالة لصرف الانتباه عن المشاكل الداخلية وأداة ساخرة لإدارة الصعوبات”.

وقال البابا إن أي استخدام للذكاء الاصطناعي في الحرب “يجب أن يخضع لأشد القيود الأخلاقية صرامة”، ووصف أنه “من غير المسموح” إسناد القرارات المميتة إلى أنظمة الذكاء الاصطناعي.

واستشهد ليو، البابا الرابع عشر الذي اختار هذا الاسم، بقرون من التعاليم البابوية السابقة حول قضايا العدالة الاجتماعية قبل تناول أخلاقيات أنظمة الذكاء الاصطناعي.

وقد استشهد على وجه التحديد بسلفه ليو الثالث عشر، الذي نشر منشورًا شهيرًا في عام 1891 دعا إلى تحسين الأجور وظروف العمل للعمال خلال الثورة الصناعية.

وأدان ليو الرابع عشر ما أسماه “أشكال العبودية الجديدة” التي يعاني منها الأشخاص الذين يهتمون بأنظمة الذكاء الاصطناعي والعاملين في المصانع التي تنتج الأجهزة التكنولوجية، مثل أجهزة الكمبيوتر والهواتف الذكية، التي يستخدم فيها الذكاء الاصطناعي.

وكتب البابا: “في بعض مناطق العالم، يعمل الأطفال والمراهقون في ظروف خطيرة، حيث يسحقون المواد التي تستخرج منها العناصر الأرضية النادرة”.

وقال: “إن جثث هؤلاء الأشخاص مصابة بالندوب والجروح والتهالك حتى يستمر التدفق الحسابي دون انقطاع”. “هذا الواقع يتحدى بشدة الضمير الأخلاقي في عصرنا.”

واعترف البابا أيضًا بأن الكنيسة الكاثوليكية لم تدين بشدة العبودية عبر المحيط الأطلسي حتى القرن التاسع عشر وقدم اعتذارًا شخصيًا.

وكتب: “هذا يشكل جرحًا في الذاكرة المسيحية”. “لذلك، باسم الكنيسة، أطلب بصدق المغفرة”.

وقال ليو، الذي ذكر في افتتاحية الرسالة أنه يريد مخاطبة الكاثوليك وجميع الأشخاص ذوي النوايا الحسنة، إن المجتمع يجب أن يواجه “أسئلة حاسمة” حول كيفية تطور الذكاء الاصطناعي والاتجاه العام للقيادة العالمية.

مستشهداً بالقصة التوراتية لبرج بابل – حيث تدفع قبيلة بشرية بالكبرياء إلى محاولة إنشاء برج طويل بما يكفي للوصول إلى السماء، مما يثير غضب الله – قال البابا إن القصة تظهر خطر أي مغامرة “تطمح إلى الوصول إلى السماء دون بركة الله”.

وقال البابا: “بقلب قس وأب، أطلب من الجميع التخلي عن بناء برج آخر لبابل وتوحيد القوى في بناء الصالح العام”.

وحث ليو العالم على عدم الاستسلام لمواجهة المخاطر المحتملة لأنظمة الذكاء الاصطناعي.

وكتب: “قد ينشأ إغراء خفي، وهو على وجه التحديد فكرة أن المشاكل كبيرة للغاية ونحن أصغر من اللازم، وبالتالي فإن خياراتنا لا يمكن أن تحدث فرقا”.

وقال ليو: “بالتأكيد، ليس لدى الجميع نفس القدرة على إحداث فرق”.

“ومع ذلك، لا أحد معفى من المسؤولية. لدينا جميعا مجالات عملنا الخاصة.”