قال ديفيد سولومون، الرئيس التنفيذي لشركة Goldman Sachs، إنه “يدرك بشكل مفرط” قدرات نموذج الذكاء الاصطناعي Anthropic’s Mythos، وأنه “يعمل بشكل وثيق” مع شركة التكنولوجيا بعد أن أصدرت تحذيرات بشأن مخاطر الأمن السيبراني.
ويراقب البنك الأمريكي التقدم السريع في مجال الذكاء الاصطناعي، بما في ذلك النماذج اللغوية الكبيرة (LLM)، كجزء من جهد أوسع للحماية من المتسللين.
وقال سولومون للمحللين يوم الاثنين خلال مكالمة هاتفية حول الأرباح: “من الواضح أن LLMs يحققون تقدمًا سريعًا ونحن ندرك تمامًا القدرات المتزايدة لهذه النماذج الجديدة بمساعدة الحكومة الأمريكية وناشري النماذج”.
وشمل ذلك شركة Anthropic، الشركة التي تقف وراء عائلة Claude لأدوات الذكاء الاصطناعي. وقالت الأسبوع الماضي إن أحدث طراز لها، Mythos، يشكل مخاطر غير مسبوقة بسبب قدرته على كشف العيوب في أنظمة تكنولوجيا المعلومات.
وقالت Anthropic في منشور على مدونة يوم الأربعاء الماضي: “لقد وصلت نماذج الذكاء الاصطناعي إلى مستوى من القدرة على الترميز حيث يمكنها التفوق على الجميع باستثناء البشر الأكثر مهارة في العثور على نقاط الضعف في البرامج واستغلالها”. “التأثيرات – على الاقتصاد والسلامة العامة والأمن القومي – يمكن أن تكون شديدة.”
قال سولومون يوم الاثنين: “نحن على دراية بـ Mythos وقدراتها… لدينا نموذج. نحن نعمل بشكل وثيق مع Anthropic وجميع مقدمي الخدمات الأمنية لدينا للاستفادة من القدرات الرائدة حيثما أمكننا ذلك. وسيظل هذا محور تركيز مهم.”
“نحن نركز بشدة على استكمال مرونتنا السيبرانية وبنيتنا التحتية. وهذا جزء من قدراتنا المستمرة التي نستثمر فيها ونسرع استثماراتنا.”
وتأتي هذه الأخبار بعد أن استدعى وزير الخزانة الأمريكي سكوت بيسينت سولومون وغيره من كبار المصرفيين الأمريكيين إلى واشنطن الأسبوع الماضي لمناقشة نموذج ميثوس.
ركز هذا الاجتماع على رؤساء ما يسمى بالبنوك ذات الأهمية النظامية، حيث يعتقد المنظمون أن حدوث اضطراب كبير أو فشل محتمل من شأنه أن يهدد الاستقرار المالي.
وحذر معهد أمن الذكاء الاصطناعي (AISI) التابع للحكومة البريطانية يوم الاثنين من أن Mythos كان “خطوة إلى الأمام” مقارنة بالنماذج السابقة من حيث التهديد السيبراني الذي يشكله.
تدعي AISI أن Mythos يمكنها تنفيذ هجمات متعددة الإجراءات واكتشاف نقاط الضعف في أنظمة تكنولوجيا المعلومات دون تدخل بشري. لقد وجد أن هذه المهام عادة ما تستغرق عدة أيام حتى يكتملها المحترفون. كان Mythos أول نموذج ذكاء اصطناعي يكمل بنجاح محاكاة مكونة من 32 خطوة لهجوم إلكتروني أنشأه AISI، وحل التحدي في ثلاث من أصل 10 محاولات.
وقالت AISI إن Mythos يبدو أنها قادرة على مهاجمة أنظمة تكنولوجيا المعلومات الصغيرة ذات الحماية الضعيفة بشكل مستقل، لكنها لا تستطيع أن تقول على وجه اليقين ما إذا كانت ستكون قادرة على مهاجمة الأنظمة المحمية بشكل جيد لأن اختباراتها تفتقر إلى ميزات أمنية مثل الأدوات الدفاعية.
واختتم منشور مدونة AISI بتحذير من أن نماذج الذكاء الاصطناعي المتقدمة المستقبلية لن تتحسن إلا على Mythos، لذا فإن “الاستثمارات في الدفاع السيبراني ضرورية الآن”.
ومن المتوقع أن يثير المنظمون في المملكة المتحدة قضية مخاطر ميثوس مع رؤساء البنوك البريطانية والمسؤولين الحكوميين في الأسابيع المقبلة. ومن المقرر أن تجتمع مجموعة المرونة التشغيلية عبر الأسواق (CMorg)، المكونة من الرؤساء التنفيذيين بالإضافة إلى مسؤولين من وزارة الخزانة وبنك إنجلترا وهيئة السلوك المالي والمركز الوطني للأمن السيبراني، خلال الأسبوعين المقبلين.
ورفض بنك إنجلترا، الذي يتولى الاتصالات المتعلقة بشركة Cmorg، التعليق.
