داريو أمودي، الرئيس التنفيذي والمؤسس المشارك لشركة Anthropic، على اليسار، وجيمي ديمون، الرئيس التنفيذي لبنك JPMorgan Chase.
دينيس باليبوس | رويترز | صموئيل كوروم | بلومبرج | صور جيتي
حذر الرئيس التنفيذي لشركة Anthropic، داريو أمودي، يوم الثلاثاء من أن الذكاء الاصطناعي قد خلق نافذة ضيقة لشركات التكنولوجيا والحكومات والبنوك في العالم لتصحيح عشرات الآلاف من نقاط الضعف البرمجية التي اكتشفها أحدث طراز لشركته.
تم تقديم نموذج الذكاء الاصطناعي هذا، Mythos، الشهر الماضي مع الكشف عن اكتشافه لنقاط ضعف عمرها عقود في برامج مهمة.
وقال أمودي إنه نظرا لأن نماذج الذكاء الاصطناعي الخاصة بالخصم الجيوسياسي للصين متأخرة “ربما بستة إلى 12 شهرا” عن المنتج الأنثروبي، فإن هناك “هذا القدر من الوقت تقريبا” لحل هذه القضايا.
وجاءت التعليقات خلال حدث أنثروبي الذي شارك فيه أمودي المسرح مع جي بي مورجان تشيس الرئيس التنفيذي جيمي ديمون وكشف النقاب عن مجموعة جديدة من الوكلاء تهدف إلى أتمتة العمل المالي.
وقال أمودي: “الخطر يكمن في الزيادة الهائلة في حجم نقاط الضعف، وفي حجم الانتهاكات، وفي الأضرار المالية التي تسببها برامج الفدية في المدارس والمستشفيات، ناهيك عن البنوك”.
يقتصر Anthropic Mythos على عدد قليل من الشركات الشريكة بسبب المخاوف بشأن ما يمكن أن يفعله المجرمون أو الدول المعادية بها. أحدث التحديثات لنموذج الشركة كان لها صدى في جميع الأسواق، لكن Mythos أثارت أكبر قدر من القلق لدى كل من الشركات والمشرعين.
وقال أمودي إن حجم الاستغلالات الإلكترونية المحتملة يتزايد مع كل جيل من أجيال كلود. عثر نموذج إنساني سابق على حوالي 20 نقطة ضعف في متصفح Firefox. وقال إن ميثوس وجدت ما يقرب من 300 برنامج، ويبلغ العدد الإجمالي لجميع البرامج الآن عشرات الآلاف.
وقال أمودي إن معظم نقاط الضعف التي عثر عليها ميثوس لم يتم الكشف عنها علنًا لأنها لم يتم إصلاحها و”سوف يستغلها الأشرار” إذا تم التعرف عليهم.
“عالم أفضل”
وعلى الرغم من التحذير، أبدى كل من أمودي وديمون أيضًا نبرة تفاؤل مشروط.
وقال أمودي: “هذه لحظة خطر، إذا استجبنا بشكل صحيح، وأعتقد أننا بدأنا في اتخاذ الخطوات الأولى، فيمكننا أن نحصل على عالم أفضل على الجانب الآخر”. “هناك الكثير من الأخطاء التي يمكن العثور عليها.”
وقال ديمون أيضًا إنه على الرغم من أن المخاوف السيبرانية مبررة، إلا أن مخاطر الأمن السيبراني التي يخلقها الذكاء الاصطناعي هي “فترة انتقالية”.
وفيما يتعلق بمسألة التنظيم، قال أمودي إن الرقابة على الذكاء الاصطناعي يجب أن تشبه ما يتم في صناعة السيارات، وتحقيق التوازن بين سلامة المستهلك والسماح للصناعة بالمنافسة.
وقال: “لا يمكنك أن تبدأ شركة سيارات دون أن تسأل نفسك: هل هناك مكابح لهذا الشيء؟”. “نحن بحاجة إلى إيجاد عملية تسمح للصناعة بالعمل بسرعة، وهذا أمر عادل، لكنه يضع حواجز أمام الأمور الأكثر خطورة.”
يبدو أن حدث الشركة واجتماعها مع ديمون، المتحدث الرسمي الأكثر شهرة في صناعة التمويل، يُظهر تقدم Anthropic على OpenAI في سوق الذكاء الاصطناعي للمؤسسات، حيث تتحرك الشركتان نحو الاكتتابات العامة الأولية المحتملة.
أعلنت شركة Anthropic يوم الثلاثاء عن توسيع منصة خدماتها المالية، بما في ذلك 10 وكلاء جدد للذكاء الاصطناعي للخدمات المصرفية الاستثمارية وأعمال المكاتب الخلفية، بالإضافة إلى التكامل بين برامج Office المختلفة من Microsoft. وذكرت الشركة أيضًا أن أحدث طراز متاح لها على نطاق واسع – Claude Opus 4.7 – يقود المعايير لمهام التحليل المالي.
