كانت الهجمات السيبرانية تتطلب مهارة كبيرة. الذكاء الاصطناعي يغير هذا | بروس شناير

لفي الأسبوع الماضي، نشرت وكالات الأمن القومي التابعة لـ Five Eyes – نادي الدول الثرية الناطقة باللغة الإنجليزية – تقريراً مشتركاً إفادة تحذير من التهديدات السيبرانية المتزايدة المرتبطة بنماذج الذكاء الاصطناعي: ولا سيما قدرتها على اختراق الأنظمة والشبكات بشكل مستقل. كان البيان أكثر اعتدالا من بعض العناوين الرئيسية المثيرة للاهتمام حول هذا الموضوع، والنصيحة التي قدمها هي في الأساس النصيحة المعتادة التي يقدمها الجميع – وإن كان ذلك بإلحاح جديد.

إن التهديدات عبر الإنترنت ليست جديدة، وكانت الهجمات السيبرانية – الكبيرة والصغيرة على حد سواء – تمثل مشكلة خطيرة قبل وقت طويل من ظهور نماذج الذكاء الاصطناعي التوليدي.

ما تغير على مر العقود، والذكاء الاصطناعي يتغير بشكل أسرع، هو الفجوة بين المهارات والقدرات. في معظم تاريخ البشرية، كان هذان المصطلحان مترادفين، لكن أجهزة الكمبيوتر كانت تفصل بينهما. ومع اتساع الفجوة بينهما، يستطيع البشر المجهزون بأدوات الذكاء الاصطناعي أن يفعلوا المزيد: الكتابة أكثر، والبحث أكثر، والتحليل، وإحداث ضرر أكبر من أي وقت مضى. مع القليل من التوجيه التفصيلي، يمكن لهذه النماذج اقتحام الشبكات بشكل مستقل، وسرقة البيانات، وتثبيت برامج الفدية، وتدمير الأنظمة. وإذا كان هناك حل، فسوف يتضمن استخدام الذكاء الاصطناعي لأغراض دفاعية.

في عام 1998، سبعة أشخاص من مجموعة القرصنة L0pht شهد قبل الكونجرس. وأخبروا لجنة بمجلس الشيوخ غير مدركة إلى حد كبير أنهم يستطيعون إغلاق الإنترنت في 30 دقيقة. كان ذلك صحيحًا جزئيًا ومتهورًا جزئيًا، لكنه أوضح نقطة مهمة: اختراق الأنظمة وسرقة البيانات والتسبب في الضرر بكل المهارات المطلوبة.

قارن قراصنة L0pht بالقراصنة الذين تم الاستهزاء بهم على أنهم “أطفال السيناريو”. لم يفهموا أجهزة الكمبيوتر أو الأمن. وبدلاً من ذلك، استخدموا أدوات القرصنة التي كتبها آخرون. تتطلب أفعالهم الحد الأدنى من المهارات وحتى معرفة أقل. ومع ذلك، مع انتشار أدوات القرصنة هذه، زاد عدد المهاجمين المحتملين.

ويتزايد هذا العدد باستمرار مع زيادة جودة وتوافر أدوات الهجوم الجاهزة. وهي تنمو بشكل كبير بفضل الذكاء الاصطناعي. إن أنظمة الذكاء الاصطناعي اليوم ــ وليس النماذج الرائدة فحسب، بل أغلبها ــ قادرة على شن هجمات إلكترونية تلقائيا. جميعها تعمل بشكل أفضل في أيدي المهاجمين المهرة، ولكنها قادرة بشكل متزايد على العمل بشكل مستقل مع الحد الأدنى من الدعم.

المشكلة مع الأشخاص القادرين ولكن غير المهرة هي أنهم غالبًا ما يكونون غرباء، وليسوا جزءًا من أي مجتمع مهني وغير ملزمين بأي قواعد أو أعراف. هذه الظاهرة أكثر شيوعا بكثير مما كانت عليه في الأمن السيبراني. يمكن لأي طبيب أن يخبرك بكيفية تسميم شخص ما بشكل لا يمكن اكتشافه، والعديد من الباحثين في مجال الفيروسات يعرفون كيفية صنع أسلحة بيولوجية. يمكن لأي مهندس جسور أن يخبرك بكيفية وضع المتفجرات لتفجير الجسر. السبب وراء ندرة الأطباء القتلة والمهندسين الإرهابيين هو أن العملية الطويلة لاكتساب هذه المهارات تغرس أيضًا قواعد الأخلاق والأخلاق. إذا تمكن كل شخص عشوائي من الوصول إلى نصيحة جيدة بشأن السموم، فهذا يعرضنا جميعًا للخطر.

تعد أنظمة الذكاء الاصطناعي الحديثة في الأساس بمثابة مستشار عالمي يساعد الأشخاص على القيام بأشياء ضارة. وبينما تحاول شركات الذكاء الاصطناعي العملاقة اليوم بناء حواجز لمنع الناس من طرح الأسئلة التي تسمح إجاباتها للسائل بإحداث الضرر، فإن ذلك لن ينجح على المدى الطويل. إن النماذج الأصغر والأرخص مفتوحة المصدر، بما في ذلك النماذج التي يمكن تشغيلها على أجهزة كمبيوتر المستخدمين، وخاصة مجموعات النماذج التي تعمل معًا، لا تقل جودة عن النماذج الرائدة من شركات مثل OpenAI وAnthropic. ويستمرون في التحسن. سيتم نقل هذه النماذج من شخص لآخر، مثل أدوات القرصنة للأطفال، ولن يكون لها مثل هذه الحواجز.

إن توجيه نماذج الذكاء الاصطناعي للتجسس على البشر والإبلاغ عن أي تلميحات ضارة إلى السلطات يفشل لأسباب مماثلة. يمكن للشركات الكبرى أن تفعل ذلك، لكن النماذج مفتوحة المصدر التي يتم تشغيلها محليًا لن تفعل ذلك. وهذا يمكن أن يشتري لنا بضعة أشهر في أحسن الأحوال.

الخيار الثالث هو منع النماذج نفسها من اختراق أجهزة الكمبيوتر، أو صنع أسلحة بيولوجية، أو القيام بأي شيء آخر يمكن أن يضر الناس أو المجتمع. لن ينجح هذا، لنفس السبب الذي يجعلنا لا نستطيع تعليم الأطباء كيفية علاج التسمم دون تعليمهم أيضًا كيفية التسمم. إنها نفس المعرفة. إنه مشابه للبناء والهدم. والأمر نفسه ينطبق على الأمن السيبراني. نريد أن تكون نماذج الذكاء الاصطناعي هذه قادرة على البحث في كود الكمبيوتر والعثور على نقاط الضعف وإصلاحها تلقائيًا. وستكون الفوائد التي تعود على أمننا الجماعي هائلة. ولسوء الحظ، يمكن استخدام هذه المعرفة نفسها لشن الهجمات.

وهذا يقودنا إلى عالم يتسم بالتقلبات المتزايدة. سيكون البشر الذين يتمتعون بقوى خارقة ومساعدين من الذكاء الاصطناعي قادرين على القيام بأشياء رائعة وفظيعة.

وهذا يعيدنا إلى بيان العيون الخمسة. كل ما يوصون به هو شيء يوصي به متخصصو الأمن لسنوات، إن لم يكن لعقود. تمت مناقشة هذا الأمر في جلسة استماع للكونجرس عام 1998 بعنوان “ضعف أمن الكمبيوتر في الحكومة: هل المجتمع في خطر؟” حتى منظمة العيون الخمس اعترفت بأن نصيحة السلامة الخاصة بها ليست جديدة، بل أكثر إلحاحًا.

الجديد هو مدى سرعة تغير الأمور: “إن الوتيرة السريعة لريادة الذكاء الاصطناعي تعني أن افتراضات المخاطر السيبرانية يمكن أن تصبح قديمة في غضون أشهر، وليس سنوات. نحن بحاجة إلى التصرف مبكرًا والاستعداد للتكيف ومواجهة التهديدات المتطورة.” تشير منظمة Five Eyes إلى أن تكنولوجيا الذكاء الاصطناعي – وليس بالضرورة روبوتات الدردشة، ولكن الذكاء الاصطناعي على نطاق أوسع – تُستخدم لتعزيز كل جانب من جوانب الدفاع، “والكشف المبكر عن نقاط الضعف، وتحسين جودة البرامج، ومراقبة السلوك غير العادي والاستجابة الأسرع للحوادث – مما يقلل من تكاليف الحوادث وتأثيرها”.

نصيحة ممتازة من وكالة Five Eyes الأمنية. نحن بحاجة إلى القيام بذلك في مواجهة كل خطر يزيده الذكاء الاصطناعي، وليس فقط الأمن السيبراني.