استبعدت شركة أنثروبيك إتاحة أحدث نماذجها للذكاء الاصطناعي، كلود ميثوس، للجمهور بسبب التهديد الذي يشكله على الأمن السيبراني العالمي.
ومع ذلك، أكدت شركة التكنولوجيا الأمريكية الناشئة التي تقف وراء برنامج Claude chatbot يوم الأربعاء أنها تحقق في تقرير يفيد بأن مجموعة من الأشخاص قد حصلوا على وصول غير مصرح به إلى Mythos. أثار الحادث المزعوم مخاوف بشأن وتيرة التطوير وقدرة شركات التكنولوجيا على إبقاء منتجاتها الأكثر خطورة مخفية عن المجال العام. هنا نقوم بتحليل Mythos وتأثيرها المحتمل.
ما هي الأسطورة؟
Mythos هو نموذج للذكاء الاصطناعي – التكنولوجيا الأساسية التي تعتمد عليها أدوات مثل chatbots – والتي تقول Anthropic إنها تشكل تهديدًا خطيرًا محتملاً للأمن السيبراني لأي منظمة. أنثروبي أعلن عن وجود ميثوس في 7 أبريل، لكنه ذكر أنه لن يتم نشره نظرًا لقدرته على اكتشاف العيوب غير المعروفة في أنظمة تكنولوجيا المعلومات. من الناحية النظرية، يمكن استغلال نقاط الضعف هذه من قبل المتسللين.
تدعي Anthropic أن Mythos قادر على تحديد واستغلال أخطاء اليوم صفر في أي نظام تشغيل رئيسي لتكنولوجيا المعلومات ومتصفح الويب – إذا طلب المستخدم ذلك. يُطلق على الأيام الصفرية هذا الاسم لأن المؤسسات والمطورين لا يدركون تمامًا وجودها ولم يكن لديهم الوقت الكافي لتصحيحها قبل هجوم المهاجم.
ووصفتها أنثروبيك بأنها “لحظة فاصلة للأمن السيبراني”. ووفقا للشركة التي يقع مقرها في سان فرانسيسكو، فإن بعض الأخطاء التي لم يتم اكتشافها كانت موجودة منذ عقود.
وسمحت الشركة الناشئة لشركات التكنولوجيا والبنوك، بما في ذلك Apple وGoldman Sachs، بالوصول إلى النموذج وتقييم المخاطر التي قد يشكلها على شركاتها وعملائها.
لماذا هذا مدعاة للقلق؟
ووفقا للمعهد البريطاني لأمن الذكاء الاصطناعي (AISI)، فإن Mythos يعد دليلا ملموسا على القدرات الخارقة للذكاء الاصطناعي المتقدم. منذ ظهور ChatGPT OpenAI في عام 2022، حذر الخبراء من أن الذكاء الاصطناعي يمكن أن يسبب أضرارًا جسيمة في العالم الحقيقي.
هناك أيضًا نقطة أوسع: الأسطورة هي مؤشر على معدل التقدم في الذكاء الاصطناعي. عادة ما يتم تكرار النماذج المتقدمة بسرعة من قبل شركات أخرى، بما في ذلك منشئو النماذج مفتوحة المصدر المتاحة للمستخدمين مجانًا. وفي رسالة مشتركة إلى قادة الأعمال الشهر الماضي، قالت وزيرة التكنولوجيا البريطانية ليز كيندال ووزير الأمن دان جارفيس إن الشركات يجب أن “تخطط بشكل مناسب” لقدرات الذكاء الاصطناعي “لتتوسع بسرعة” خلال العام المقبل. وبطبيعة الحال، يمكن أيضًا استخدام الذكاء الاصطناعي للدفاع ضد الهجمات السيبرانية.
مصدر قلق آخر هو أن ميثوس يمكن أن يقع في الأيدي الخطأ، على الرغم من أنه لن يتم طرحه للجمهور. وقد تحقق هذا الخوف هذا الأسبوع عندما أكدت شركة Anthropic أن “حفنة” من المستخدمين في منتدى خاص عبر الإنترنت قد تمكنوا من الوصول إلى النموذج.
ومع ذلك، هناك أيضًا تساؤلات حول أهمية الآلاف من نقاط الضعف التي أبلغت عنها Mythos. هل يمكن أن تسبب أضرارًا جسيمة؟ علاوة على ذلك، فإن تسليط الضوء على خلل في تكنولوجيا المعلومات لا يعني استغلاله.
هل تم تقييم Mythos من قبل الخبراء؟
AISI، الهيئة الرائدة عالميًا في مجال أمن الذكاء الاصطناعي، ألقى نظرة خاطفة على ميثوس ويدعي أنها “خطوة إلى الأمام” مقارنة بالنماذج السابقة من حيث مخاطر الأمن السيبراني. تتضمن العلامات الحمراء القدرة على شن هجمات متعددة المراحل وتحديد نقاط الضعف في تكنولوجيا المعلومات دون تدخل بشري.
كما حقق أيضًا أول نجاح في نظر AISI: فقد أكمل بنجاح محاكاة هجوم إلكتروني مكونة من 32 خطوة في اختبار أنشأه المعهد. وقالت AISI إنها يمكن أن تهاجم أنظمة تكنولوجيا المعلومات الضعيفة والصغيرة، على الرغم من أنها لا تستطيع إصدار حكم على الأنظمة المحمية بشكل جيد. اختتم المعهد تقييمه بملاحظة غالبًا ما تتكرر في مكان آخر: لا يمكن لأنظمة الذكاء الاصطناعي أن تتحسن إلا من هنا.
وقال ريتشارد هورن، الرئيس التنفيذي للمركز الوطني للأمن السيبراني في المملكة المتحدة، في مؤتمر CyberUK في غلاسكو هذا الأسبوع إن وصول Mythos سيساعد في تشجيع الشركات على استبدال “التكنولوجيا التي عفا عليها الزمن”. وأضاف: “إنه يزيد فقط من الإلحاح”.
ومع ذلك، يقول خبراء آخرون أن ميثوس هو تطور أكثر من كونه ثورة. قامت شركة Aisle، وهي شركة للأمن السيبراني تعمل بالذكاء الاصطناعي، بتحليل ادعاءات Anthropic الرئيسية: أنها عثرت على الآلاف من نقاط الضعف في أنظمة التشغيل والمتصفحات الرئيسية، بما في ذلك واحدة في FreeBSD، وهو ابن عم UNIX. وتبين أن النماذج الأخرى الأرخص بكثير كانت قادرة أيضًا على اكتشاف هذه المشكلات. هذا لا يعني أن قدرات ميثوس لم تكن مهمة، كما زعموا، ولكن كان هناك فارق بسيط فيها أكثر مما توحي به لهجة الأنثروبيك العاجلة.
ويحذر الخبراء أيضًا من أن معظم الانتهاكات لا تزال تنبع من تهديدات قائمة، مثل المصادقة الضعيفة ونقاط الضعف المعروفة بالفعل والتي لم يتم تصحيحها.
يشير بعض الخبراء إلى أن هناك بعض الضجيج المحيط بادعاءات Anthropic حول Mythos والطريقة التي قدمتها بها الشركة الناشئة التي تبلغ قيمتها حوالي 800 مليار دولار (592 مليار جنيه إسترليني). ميثوس هو بلا شك نموذج قادر. لكن إعلان Anthropic المثير منحها وقتًا كبيرًا للبث وركز منتجها في محادثة أوسع على مستوى الميدان حول كيفية مساهمة الذكاء الاصطناعي في التهديدات السيبرانية.
كيف تشارك شركات التكنولوجيا والبنوك؟
تمكنت حوالي 40 شركة، بما في ذلك جوجل، وجي بي مورجان، وجولدمان، من الوصول المبكر إلى Mythos كجزء من مبادرة تسمى Project Glasswing، والتي تهدف إلى منح الشركات فرصة لاختبار نموذج الذكاء الاصطناعي كجزء من دفاعها السيبراني. وتقول أنثروبيك إنها ستشارك ما تتعلمه “حتى تستفيد الصناعة بأكملها”.
ومع ذلك، لم يقدم شركاء الإطلاق أي تفاصيل حول ما يعتقدون أن Mythos قادر على فعله وما هو التهديد الذي قد يشكله.
وهذا لا يمنع البنوك والجهات التنظيمية من التكهن بشأن تأثيرها المحتمل. ولسبب وجيه: إذا ثبتت صحة تحذيرات أنثروبك، فإن وقوع ميثوس في الأيدي الخطأ قد يلحق الضرر بالبنوك، وربما يعرض النظام المالي الأوسع للخطر.
اقترحت حكومة المملكة المتحدة، بالاعتماد على السيناريو الأسوأ الذي تم إنشاؤه قبل إنشاء ميثوس، أن الديون المباشرة يمكن أن تفشل، مما يؤدي إلى عدم دفع الإيجارات والرهون العقارية والأجور، ويمكن حظر عمليات السحب من الخدمات المصرفية عبر الإنترنت وأجهزة الصراف الآلي. قد يُترك الركاب في طي النسيان لأن الحافلات ومحطات الوقود ترفض الدفع. قد يؤدي هذا إلى حالة من الذعر وهروب المقرضين المنافسين حيث يقوم العملاء بسحب الأموال من حساباتهم خوفًا من انتشار الاضطراب.
دفعت المخاوف بشأن التهديدات المحتملة من ميثوس وزير الخزانة الأمريكي سكوت بيسينت إلى عقد اجتماع في واشنطن في وقت سابق من هذا الشهر مع رؤساء البنوك الأمريكية الكبرى، بما في ذلك جولدمان وسيتي.
أضاف المنظمون في المملكة المتحدة Mythos إلى جدول الأعمال مجموعة المرونة التشغيلية عبر السوق اجتماعات هذا الأسبوع. وهذا ما يجعله موضوع مناقشات رفيعة المستوى بين كبار المصرفيين، بالإضافة إلى مسؤولين من وزارة الخزانة وبنك إنجلترا وهيئة السلوك المالي والمركز الوطني للأمن السيبراني.
