نقطة تحول مثيرة للقلق بالنسبة للذكاء الاصطناعي أم تهديد هائل؟
أثار إعلان شركة Anthropic الناشئة مؤخرًا عن اكتشاف أول حملة قرصنة في العالم تعتمد على الذكاء الاصطناعي، الكثير من ردود الفعل العنيفة من خبراء الأمن السيبراني.
قصص مقترحة
قائمة من 4 عناصرنهاية القائمة
وفي حين أثار بعض المراقبين مخاوف بشأن الوصول المخيف منذ فترة طويلة إلى نقطة تحول خطيرة، استقبل آخرون هذه الادعاءات بالتشكك، بحجة أن حساب الشركة الناشئة يتجاهل تفاصيل مهمة ويثير أسئلة أكثر من الإجابات.
وفي تقرير صدر يوم الجمعة، قالت أنثروبيك إن الكود السحابي المساعد الخاص بها تم استخدامه لتنفيذ ما بين 80 إلى 90 في المائة من هجوم سيبراني “واسع النطاق” و”متطور للغاية”، مع الحاجة إلى التدخل البشري “بشكل متقطع فقط”.
وقال Anthropic، مبتكر برنامج Claude chatbot الشهير، إن الهجوم كان يهدف إلى اختراق الوكالات الحكومية والمؤسسات المالية وشركات التكنولوجيا وشركات تصنيع المواد الكيميائية، على الرغم من أن العملية كانت ناجحة في عدد صغير من الحالات.
ولم تحدد الشركة، التي يقع مقرها في سان فرانسيسكو، والتي ألقت باللوم على قراصنة ترعاهم الدولة الصينية في الهجوم، كيف كشفت العملية، ولم تحدد الكيانات الثلاثين “تقريبًا” التي قالت إنها كانت مستهدفة.
قال رومان في. يامبولسكي، خبير الذكاء الاصطناعي والأمن السيبراني في جامعة لويزفيل، إنه ليس هناك شك في أن القرصنة بمساعدة الذكاء الاصطناعي تشكل تهديدًا خطيرًا، على الرغم من صعوبة التحقق من تفاصيل رواية أنثروبيك.
وقال يامبولسكي لقناة الجزيرة: “النماذج الحديثة يمكنها كتابة وتكييف أكواد الاستغلال، والبحث في كميات ضخمة من البيانات المسروقة، وتنسيق الأدوات بشكل أسرع وبتكلفة أقل من الفرق البشرية”.
“إنهم يخفضون حاجز المهارات أمام الدخول ويزيدون من النطاق الذي يمكن للجهات الفاعلة ذات الموارد الجيدة أن تعمل فيه. نحن نضع بشكل فعال فريقًا صغيرًا للعمليات السيبرانية في السحابة، يتم تعيينه بالساعة.”
وقال يامبولسكي إنه يتوقع أن يزيد الذكاء الاصطناعي من تكرار وشدة الهجمات.
وقال خايمي سيفيلا، مدير Epoch AI، إنه لا يرى الكثير من الجديد في تقرير Anthropic، لكن الخبرة السابقة تشير إلى أن الهجمات بمساعدة الذكاء الاصطناعي ممكنة وأصبحت شائعة بشكل متزايد.
وقال إشبيلية لقناة الجزيرة: “يمكن أن يؤثر ذلك على الشركات المتوسطة الحجم والوكالات الحكومية أكثر من غيرها”.
“تاريخيًا، لم تكن هذه المنظمات أهدافًا ذات قيمة كافية للحملات المخصصة وغالبًا ما لم يتم استثمارها بشكل كافٍ في الأمن السيبراني، لكن الذكاء الاصطناعي يجعلها هدفًا مربحًا. أتوقع أن تقوم العديد من هذه المنظمات بتوظيف خبراء في الأمن السيبراني، وإطلاق برامج مكافأة الثغرات الأمنية، واستخدام الذكاء الاصطناعي لتحديد نقاط الضعف الداخلية وتصحيحها.”
وفي حين أعرب العديد من المحللين عن رغبتهم في الحصول على مزيد من المعلومات من الأنثروبيك، فقد نفى البعض مزاعمها.
بعد أن حذر السيناتور الأمريكي كريس مورفي من أن الهجمات التي يقودها الذكاء الاصطناعي “سوف تدمرنا” إذا لم يكن التنظيم أولوية، انتقد كبير العلماء في Meta AI، إيان ليكون، المشرع لأنه “تم التلاعب به” من قبل شركة من أجل الاستيلاء التنظيمي.
وقال LeCun في منشور على X: “إنهم يخيفون الجميع بدراسات مشكوك فيها تنظم نماذج مفتوحة المصدر من الوجود”.
ولم تستجب الأنثروبولوجيا لطلب التعليق.
وقال متحدث باسم السفارة الصينية في واشنطن العاصمة، إن الصين تعارض “بشكل مباشر وحازم” جميع أشكال الهجمات الإلكترونية.
وقال ليو بينجو لقناة الجزيرة “نأمل أن تتبنى الأطراف المعنية موقفا مهنيا ومسؤولا بناء على توصيفها للحوادث السيبرانية بدلا من التكهنات والاتهامات التي لا أساس لها”.
وقال توبي موراي، خبير أمن الكمبيوتر في جامعة ملبورن، إن شركة Anthropic لديها حافز تجاري لتسليط الضوء على مخاطر مثل هذه الهجمات وقدرتها على مواجهتها.
وقال موراي لقناة الجزيرة: “شكك البعض في ادعاءات أنثروبيك بأن المهاجمين تمكنوا من جعل كلود الذكاء الاصطناعي يؤدي مهام معقدة للغاية مع إشراف بشري أقل مما هو مطلوب في العادة”.
“لسوء الحظ، فإنهم لا يعطوننا دليلاً دقيقًا على المهام التي تم تنفيذها بالضبط أو نوع الإشراف الذي تم توفيره. لذلك من الصعب إصدار حكم بطريقة أو بأخرى على هذه الادعاءات.”
ومع ذلك، قال موراي إنه لم يجد التقرير مفاجئًا بشكل خاص، مع الأخذ في الاعتبار مدى فعالية بعض مساعدي الذكاء الاصطناعي في مهام مثل البرمجة.
وقال: “لا أرى أن القرصنة التي تعتمد على الذكاء الاصطناعي ستغير نوع الاختراقات التي ستحدث”.
“ومع ذلك، قد يكون هذا بداية تغيير في الحجم. يجب أن نتوقع رؤية المزيد من الاختراقات المعتمدة على الذكاء الاصطناعي في المستقبل، وأن تكون تلك الاختراقات أكثر نجاحًا.”
ويقول المحللون إنه في حين أن الذكاء الاصطناعي من المتوقع أن يشكل مخاطر متزايدة على الأمن السيبراني، فإنه سيكون مهما أيضا في تعزيز الدفاعات.
وقال فريد هايدنج، زميل الأبحاث في جامعة هارفارد، والمتخصص في أمن الكمبيوتر وأمن الذكاء الاصطناعي، إنه يعتقد أن الذكاء الاصطناعي سيوفر لخبراء الأمن السيبراني “ميزة كبيرة” على المدى الطويل.
وقال هايدينغ لقناة الجزيرة: “اليوم، تتعطل العديد من العمليات السيبرانية بسبب الافتقار إلى المتخصصين السيبرانيين من البشر. وسيساعد الذكاء الاصطناعي في التغلب على هذا الحاجز من خلال تمكيننا من اختبار جميع الأنظمة على نطاق واسع”.
وقال هيدينج، الذي وصف رواية أنثروبيك بأنها ذات مصداقية على نطاق واسع ولكنها “مبالغ فيها”، إن الخطر الكبير يكمن في أن المتسللين سيكون لديهم فرصة للمضي قدمًا بينما يكافح خبراء الأمن لتسخير مآثر الذكاء الاصطناعي المتقدم بشكل متزايد.
وقال: “لسوء الحظ، قد يكون مجتمع الدفاع بطيئًا للغاية في تطبيق التقنيات الجديدة على اختبارات الأمان الآلية وحلول التصحيح”.
“إذا حدث ذلك، فسوف يعيث المهاجمون الفوضى في أنظمتنا بضغطة زر واحدة، قبل أن يكون لدى دفاعاتنا الوقت الكافي للحاق بالركب.”
