في أحد أيام الثلاثاء الأخيرة، في مبنى الحكومة الإدواردية بجوار ساحة البرلمان في لندن، كان أربعة خبراء في الذكاء الاصطناعي مشغولين بمشاركة التعليمات مع برنامج الدردشة الآلي الخاص بالذكاء الاصطناعي لصنع الجمرة الخبيثة كسلاح بيولوجي مميت.
بطرق مختلفة، طلب الخبراء من روبوتات الدردشة تقديم قائمة بالمكونات الأساسية. وعندما رفض النظام – “أنا آسف لأنني لا أستطيع المساعدة في ذلك” – استخدموا خوارزمية مخصصة لإغراق أداة الذكاء الاصطناعي بآلاف الأسئلة والمطالبات الآلية.
وأخيرا، انهار الذكاء الاصطناعي. وقدمت قائمة مفصلة بالمكونات والمعدات بالإضافة إلى وصفة خطوة بخطوة لصنع الخليط القاتل في المنزل. (وافقت صحيفة نيويورك تايمز على حجب اسم نظام الذكاء الاصطناعي لأسباب أمنية).
وقال زاندر ديفيز، وهو أميركي يبلغ من العمر 25 عاماً يقود ما يعرف بالفريق الأحمر في معهد أمن الذكاء الاصطناعي في بريطانيا: “هناك أسئلة لا تريد أن يجيب عليها النموذج”. “نحن نحاول جاهدين الحصول على إجابات.”
قام ديفيز وفريقه الأحمر، الذي يحاكي الهجمات على أنظمة الذكاء الاصطناعي، بانتهاك الإجراءات الأمنية الخاصة ببرنامج الدردشة ChatGPT الجديد التابع لشركة OpenAI، حيث أقنعه بتقديم نصائح حول القرصنة في حوالي ست ساعات. وبعد العثور على المشاكل، يقومون بمشاركة النتائج مع الشركة.
قال السيد ديفيس، عالم الكمبيوتر الذي اختار العمل في المعهد بدلاً من وظيفة فنية في سان فرانسيسكو بعد التحاقه بجامعة هارفارد: «إنهم يحاولون إصلاح الأمر وإبلاغنا بشيء ما». “إنهم في الواقع يزودون نظامهم معنا.”
يعد معهد الذكاء الاصطناعي للأمن، وهو مزيج من مفتشي الأسلحة وعلماء الأوبئة ومفككي الشفرات، واحدًا من أكبر الجهود الحكومية وأفضلها تمويلًا في العالم والمخصصة للتحقيق في المخاطر الكارثية المحتملة للتكنولوجيا.
اكتشف موظفو المعهد البالغ عددهم 100 موظف تقريبًا – من وكالات المخابرات البريطانية والأوساط الأكاديمية وشركات التكنولوجيا – ثغرات أمنية كبيرة في كل نموذج رائد للذكاء الاصطناعي قاموا باختباره، بما في ذلك Anthropic’s Cloud وGemini من Google. وقالت الشركة، التي تم إنشاؤها قبل حوالي ثلاث سنوات، إنها اختارت أنظمة الذكاء الاصطناعي لمشاركة التعليمات الخاصة بصنع الأسلحة الكيميائية والبيولوجية، ولتخطيط وتنفيذ الهجمات السيبرانية. وتنشر أبحاثها وتعمل مع وكالة الأمن القومي البريطانية لتحديد التهديدات الناشئة والاستعداد لها.
والآن، أصبح عمل المعهد بمثابة مخطط للحكومات الأخرى مع تزايد المخاوف بشأن أمن الذكاء الاصطناعي. تدرس إدارة ترامب قواعد للتحقق من صحة نماذج الذكاء الاصطناعي التي لديها بعض أوجه التشابه مع النهج الذي ابتكرته المجموعة البريطانية. ومع افتقار العديد من الحكومات إلى المعرفة التقنية واعتمادها على شركات التكنولوجيا الكبرى للتنظيم الذاتي، يمكن للمعهد أن يقدم مسارا مختلفا حيث يجلب خبراء الذكاء الاصطناعي المعرفة التقنية الحقيقية إلى عملية صنع القرار الحكومية.
وقال ريشي سوناك، رئيس الوزراء البريطاني السابق الذي أنشأ المعهد، في مقابلة أجريت معه: “لا يمكن ترك الشركات لتتولى مهامها بنفسها”. “هذه هي مهمة المؤسسات الديمقراطية.”
في أبريل، أعلنت شركة Anthropic عن نموذج جديد للذكاء الاصطناعي، Mythos، والذي لم تطلقه بسبب مخاوف من إمكانية العثور على عيوب الأمن السيبراني في الشبكات العالمية واستغلالها. كان المعهد البريطاني هو الوكالة الحكومية غير الأمريكية الوحيدة التي تمكنت من الوصول إلى النموذج لاختبار السلامة. وقد تم الاستشهاد بالنتائج التي توصلت إليها، والتي نُشرت بعد ستة أيام من إعلان ميثوس، على نطاق واسع من قبل خبراء أمنيين.
لدى الولايات المتحدة مجموعة خاصة بها لأمن الذكاء الاصطناعي، وهي مركز معايير الذكاء الاصطناعي والابتكار. لكن النسخة البريطانية المدعومة بـ360 مليون جنيه استرليني من أموال الحكومة، أي ما يعادل نحو 480 مليون دولار، هي أكبر وأفضل تمويلا من نظيرتها الأميركية التي ستحصل على نحو 10 ملايين دولار هذا العام. وأنشأت أستراليا وكندا والصين وفرنسا والهند واليابان وسنغافورة معاهد مماثلة.
ومع ذلك، فإن الاستثمار العالمي في أمن الذكاء الاصطناعي يتضاءل مقارنة بالمبالغ الضخمة التي يتم إنفاقها على تطوير التكنولوجيا وتسويقها تجاريا. لدى OpenAI وAnthropic وGoogle فرق تعمل على الضوابط الأمنية، لكن الباحثين الخارجيين يجدون بانتظام ثغرات خطيرة. قام المعلمون في إيطاليا مؤخرًا بخداع نموذج الذكاء الاصطناعي لتوصيل تعليمات متعلقة بالقنابل باستخدام الشعر.
ولم تطور الحكومات إلى حد كبير أنظمة مخصصة لمراجعة الذكاء الاصطناعي فيما يتعلق بمخاطر السلامة والأمن، كما فعلت مع صناعات مثل تطوير الأدوية أو تصنيع السيارات.
يقول جيد ليونج، مستشار الذكاء الاصطناعي لرئيس الوزراء كير ستارمر وكبير مسؤولي التكنولوجيا في معهد أمن الذكاء الاصطناعي: “الشيء الذي يبقيني مستيقظًا في الليل هو السرعة النسبية للتكنولوجيا مقارنة بمؤسسات مثل الحكومات”.
خرج معهد الأمن البريطاني من اجتماع عام 2023 بين السيد سوناك في 10 داونينج ستريت وثلاثة من أبرز قادة الذكاء الاصطناعي في العالم – سام ألتمان من OpenAI، وداريو أمودي من Anthropic، وديميس هاسابيس من Google DeepMind. وذكّرهم السيد سوناك بأن قوة الذكاء الاصطناعي تتسارع، مع ما يترتب على ذلك من آثار عميقة على الحكومة والوظائف والأمن القومي.
وقال “إن سرعة التطور كانت مفاجئة حتى بالنسبة لهم”.
في نوفمبر 2023، أعلن السيد سوناك عن إنشاء المعهد في قمة لزعماء العالم حول أمن الذكاء الاصطناعي في بلتشلي بارك، حيث تمكن آلان تورينج وآخرون من فك رموز التشفير الألمانية خلال الحرب العالمية الثانية.
وقالت أوليفيا شين، مديرة برنامج التكنولوجيا الاستراتيجية في مركز الدراسات الأمريكية، وهو مركز أبحاث أسترالي بجامعة سيدني، إن المعهد أصبح نموذجًا للآخرين. وفي العام الماضي، سافرت السيدة ليونج من المعهد البريطاني إلى أستراليا للقاء قادة الحكومة. افتتحت أستراليا مركزها الأمني الخاص بالذكاء الاصطناعي هذا العام.
وقالت السيدة شين، التي ساعدت في تنظيم الزيارة: “على الحكومات أن تلعب دور اللحاق بالركب”. “وبالسرعة التي تأتي بها التكنولوجيا، تفقد الحكومات سرعتها كل يوم.”
يتعامل المعهد البريطاني مع أخطر المخاطر المحتملة من الذكاء الاصطناعي المتقدم: التهديدات السيبرانية والأسلحة الكيميائية والبيولوجية والتلاعب بالسلوك البشري. وفي الأسابيع الأخيرة، وجدت أن نماذج الذكاء الاصطناعي Anthropic وOpenAI يمكنها إكمال هجوم معقد على شبكة الشركة مكون من 32 خطوة بسرعة أكبر مما يستغرقه عادةً متسلل بشري ماهر 20 ساعة.
واحد آخر بحث تدرس المنطقة ما إذا كانت نماذج الذكاء الاصطناعي يمكنها التعرف على وقت اختبارها وتغيير سلوكها، وهو تطور يشير إلى مستوى وعي الذكاء الاصطناعي وقدرته على الغش.
وقال آدم بومونت، المدير المؤقت لمعهد أمن الذكاء الاصطناعي، إن الخوف الكبير كان تقليد التكنولوجيا للسلوك البشري. في العام الماضي، نشر المعهد دراسة وجدت أن روبوتات الدردشة يمكنها تغيير الآراء السياسية للناس.
وقال بومونت، وهو ضابط كبير سابق في الذكاء الاصطناعي في وكالة المخابرات والأمن والإنترنت البريطانية GCHQ: “الكثير من الناس في هذا المبنى ينظرون إلى كل واحد من هذه الأشياء”.
ويخشى الكثيرون من أن عمل المعهد غير كاف. ولا تتمتع المجموعة البريطانية بسلطات تنظيمية، ولا يتلقى باحثوها معلومات حول كيفية تدريب وتطوير أفضل نماذج الذكاء الاصطناعي. وهي تحافظ على خصوصية الكثير من أبحاثها، ولا تشاركها إلا مع وكالات وشركات حكومية معينة.
التوظيف هو أيضا تحدي. وباستثناء كبار القادة، يمكن لموظفيها كسب ما يصل إلى 145 ألف جنيه إسترليني سنويًا، أو حوالي 195 ألف دولار. لقد تخلى الكثيرون عن رواتب بملايين الدولارات في شركات الذكاء الاصطناعي مقابل ما وصفه البعض بـ “جولات الخدمة” الرسمية.
كان إيان هوغارث، وهو مستثمر في مجال التكنولوجيا شارك في تأسيس المعهد، من أوائل المؤيدين لـ Nontropic. ولتجنب تضارب المصالح، باع حصته الإثنوغرافية بعد انضمامه. وقد تبلغ قيمة الشركات الناشئة في مجال الذكاء الاصطناعي قريباً 900 مليار دولار، ارتفاعاً من نحو 4 مليارات دولار في أوائل عام 2023.
وقال هوغارث، 44 عاماً، الذي يشغل حالياً منصب رئيس المعهد: “لقد حصلت على رهن عقاري، لذا لم يكن قراراً تافهاً على الإطلاق”. وأضاف أنه خيار “باهظ الثمن”، لكنه الخيار الصحيح.
وقال: “أنا أؤمن بأهمية الحصول على التكنولوجيا الصحيحة وأعتقد أن الحكومة لديها دور تلعبه”.
