الصين مرتبطة بـ “هجوم” قرصنة يعتمد على الذكاء الاصطناعي، إنساني – ناشيونال تقول

كشف فريق من الباحثين عما يقولون إنه أول استخدام تم الإبلاغ عنه للذكاء الاصطناعي لإجراء عمليات القرصنة بطريقة آلية إلى حد كبير.

قالت شركة الذكاء الاصطناعي Anthropic هذا الأسبوع إنها عطلت عملية إلكترونية ربطها باحثوها بالحكومة الصينية. وتضمنت العملية استخدام نظام ذكاء اصطناعي لإجراء حملة القرصنة، والتي وصفها الباحثون بأنها تطور مثير للقلق يمكن أن يوسع بشكل كبير نطاق المتسللين المجهزين بالذكاء الاصطناعي.

وقال الباحثون إنه في حين أن المخاوف بشأن استخدام الذكاء الاصطناعي لتشغيل العمليات السيبرانية ليست جديدة، فإن ما يثير القلق بشأن العملية الجديدة هو مدى قدرة الذكاء الاصطناعي على أتمتة بعض المهام.

وكتبوا في تقريرهم: “بينما توقعنا أن هذه القدرات ستستمر في التطور، فإن ما لفت انتباهنا هو النطاق السريع الذي حدث به ذلك”.

وتستهدف العملية شركات التكنولوجيا والمؤسسات المالية وشركات الكيماويات والهيئات الحكومية. وكتب الباحثون أن المتسللين “هاجموا حوالي ثلاثين هدفًا عالميًا ونجحوا في عدد قليل من الحالات”. اكتشفت أنثروبيك العملية في سبتمبر/أيلول واتخذت خطوات لوقفها وإخطار الأطراف المتضررة.

أشارت أنثروبيك إلى أنه في حين يتم استخدام أنظمة الذكاء الاصطناعي بشكل متزايد في مجموعة متنوعة من البيئات للعمل والترفيه، إلا أنه يمكن أيضًا تسليحها من خلال مجموعات القرصنة التي تعمل لصالح الخصوم الأجانب. تعد شركة Anthropic، الشركة المصنعة لبرنامج الدردشة الآلي كلود، واحدة من العديد من شركات التكنولوجيا التي تروج لـ “وكلاء” الذكاء الاصطناعي الذين يتجاوزون قدرة برنامج الدردشة الآلي على الوصول إلى أدوات الكمبيوتر واتخاذ الإجراءات نيابة عن شخص ما.

وخلص الباحثون إلى أن “الوكلاء لهم قيمة كبيرة في المهام اليومية والإنتاجية، ولكن إذا وقعوا في الأيدي الخطأ، فيمكنهم زيادة فعالية الهجمات السيبرانية واسعة النطاق بشكل كبير”. “هذه الهجمات لا يمكن إلا أن تزيد من فعاليتها.”

ولم يرد متحدث باسم سفارة الصين في واشنطن على الفور برسالة يطلب فيها التعليق على التقرير.

وحذرت مايكروسوفت في وقت سابق من هذا العام من أن الخصوم الأجانب يعتمدون بشكل متزايد على الذكاء الاصطناعي لجعل حملاتهم الإلكترونية أكثر كفاءة وأقل كثافة في العمالة. صرح رئيس لجنة الأمان في OpenAI، والتي لديها القدرة على إيقاف تطوير الذكاء الاصطناعي الخاص بصانع ChatGPT، لوكالة أسوشيتد برس مؤخرًا أنه يتطلع إلى أنظمة ذكاء اصطناعي جديدة تمنح المتسللين الضارين “المزيد من القوة”.

لقد استغل خصوم أميركا، فضلا عن العصابات الإجرامية وشركات القرصنة، إمكانات الذكاء الاصطناعي، واستخدموها لأتمتة وتحسين الهجمات السيبرانية، ونشر المعلومات المضللة التحريضية، واختراق الأنظمة الحساسة. يمكن للذكاء الاصطناعي ترجمة رسائل البريد الإلكتروني التصيدية سيئة الصياغة إلى اللغة الإنجليزية بطلاقة، على سبيل المثال، بالإضافة إلى إنشاء نسخ رقمية لكبار المسؤولين الحكوميين.

وقالت Anthropic إن المتسللين تمكنوا من التلاعب بالسحابة، باستخدام تقنيات “كسر الحماية” التي تتضمن خداع نظام الذكاء الاصطناعي لتجاوز حواجز الحماية الخاصة به ضد السلوك الضار، وفي هذه الحالة يدعون أنهم موظفون في شركة أمن سيبراني شرعية.

وقال جون سكوت ريلتون، كبير الباحثين في سيتيزن: “يشير هذا إلى تحدي كبير في نماذج الذكاء الاصطناعي، ولا يقتصر الأمر على كلود، وهو أن النماذج يجب أن تكون قادرة على التمييز بين ما يحدث بالفعل في أخلاقيات الموقف ونوع الدور الذي يريد المتسللون وغيرهم أن يلعبوه”.

إن استخدام الذكاء الاصطناعي لأتمتة الهجمات الإلكترونية أو توجيهها سوف يجذب أيضًا مجموعات القرصنة الصغيرة والمتسللين المنفردين، الذين يمكنهم استخدام الذكاء الاصطناعي لتوسيع نطاق هجماتهم، وفقًا لآدم أريلانو، المدير التنفيذي للتكنولوجيا الميداني لشركة Harness، وهي شركة تكنولوجيا تستخدم الذكاء الاصطناعي لأتمتة تطوير البرامج للعملاء.

وقال أريلانو: “إن السرعة والأتمتة التي يوفرها الذكاء الاصطناعي مخيفة بعض الشيء”. “بدلاً من محاولة البشر ذوي المهارات العالية اختراق الأنظمة المعقدة، يعمل الذكاء الاصطناعي على تسريع تلك العمليات وتجاوز العقبات بشكل أكثر اتساقًا.”

وقال أريلانو إن برامج الذكاء الاصطناعي ستلعب أيضًا دورًا متزايد الأهمية في الدفاع ضد هذه الأنواع من الهجمات، موضحًا كيف سيفيد الذكاء الاصطناعي والأتمتة التي يتيحها كلا الطرفين.

كانت ردود الفعل على إصدار Anthropic متباينة، حيث رأى البعض أنها حيلة تسويقية لنهج Anthropic في الأمن السيبراني وآخرون رحبوا بدعوة الاستيقاظ.

وكتب السيناتور الأمريكي كريس مورفي، وهو ديمقراطي من ولاية كونيتيكت، على وسائل التواصل الاجتماعي: “سوف ندمرنا – في وقت أقرب مما نعتقد – إذا لم نجعل السيطرة على الذكاء الاصطناعي أولوية وطنية غدا”.

وقد أدى ذلك إلى انتقادات من إيان ليكون، كبير علماء الذكاء الاصطناعي في ميتا، وهو من المدافعين عن أنظمة الذكاء الاصطناعي مفتوحة المصدر في الشركة الأم لفيسبوك، والتي، على عكس Anthropic، تجعل مكوناتها الأساسية متاحة للجمهور بطريقة يعتبرها بعض المدافعين عن أمن الذكاء الاصطناعي محفوفة بالمخاطر.

كتب LeCun في رد على مورفي: “يتم التلاعب بك من قبل أشخاص يريدون السيطرة التنظيمية”. “إنهم يخيفون الجميع بدراسات مشكوك فيها حتى يتم تنظيم النماذج مفتوحة المصدر وحذفها من الوجود.”

© 2025 الصحافة الكندية