تقول الإرشادات الجديدة إنه يجب على قادة الأمن التعامل مع الهوية باعتبارها البنية التحتية الرقمية الأكثر أهمية حيث يضاعف الذكاء الاصطناعي أسطح الهجوم التي يدافعون عنها جارتنر تسليمها إلى CISOs هذا الأسبوع.
وجاء هذا التوجه في قمة جارتنر للأمن وإدارة المخاطر. قال لي ماكمولن، نائب الرئيس المتميز وزميل جارتنر، خلال الكلمات الافتتاحية إن آخر أخبار المنتجات تستمر في إبعاد قادة الأمن عن مسارهم. وقال إن ثلاث أولويات يمكن أن تعيد تركيزها: تحديث الهوية، وإعادة تعريف شكل النصر، وخفض الحاجز أمام الابتكار اليومي. وفي جلسة مصاحبة، حدد جون واتس، نائب الرئيس للمحلل في شركة Gartner، أربعة تهديدات يتمتع فيها المهاجمون بالميزة. وقد قدم الاثنان معًا لقادة أمن الرعاية الصحية استراتيجية وقائمة تهديدات لاختبارها.
الهوية كبنية تحتية
وقال مكمولين إن الاستثمارات في الذكاء الاصطناعي في الشركات تجبر على إعادة التفكير التي طال انتظارها في إدارة الهوية والوصول. يعد وكلاء الذكاء الاصطناعي وأحمال العمل الآلية وحركة المرور من آلة إلى آلة بمثابة عبئ على برامج IAM حيث كان التعقيد السحابي وDevOps تحت الضغط بالفعل. لقد تحولت الهوية من فحص الخلفية إلى البنية التحتية الأساسية. تفتقر النماذج القديمة المصممة للمستخدمين البشريين والأدوار الثابتة بشكل متزايد إلى الطريقة التي تعمل بها الأنظمة اليوم.
يعمل الذكاء الاصطناعي على التفويض والاستقلالية والسياق بدلاً من الأذونات الثابتة. لا تتناسب عناصر التحكم في الوصول التقليدية القائمة على الأدوار مع البيئات التي تكون فيها الملايين من هويات الأجهزة نشطة بشكل مستمر. مع انتشار الأنظمة القائمة على الوكيل، تصبح نظافة هوية الآلة الضعيفة والسياسات المتفرقة التي تراعي السياق مصادر رئيسية للمخاطر. وبسبب هذا التعرض، تتوقع جارتنر أنه بحلول عام 2028، سيحدث 25% من الانتهاكات من خلال أسطح الهجوم القائمة على العملاء.
ووصف مكمولين الدفعة بأنها افتتاح استراتيجي. بدلاً من تثبيت أدوات جديدة على مجموعات هشة، يمكن للمؤسسات استخدام استثمارات الذكاء الاصطناعي لتسريع تحديث IAM. نظرًا لأن تفاعلات العملاء والشركاء والموظفين أصبحت تتم بوساطة الآلة، فإن ضوابط الهوية القوية تتحول من الضرورة الأساسية إلى التمييز التنافسي. الشركات التي يمكنها استيعاب أعباء عمل الماكينة وإدارتها بشكل أسرع تجني فوائد حقيقية من حيث السرعة والثقة.
الفوز على المرونة
والأولوية الثانية تطلب من القادة إعادة تعريف النجاح نفسه. يقول ماكمولين إن الهجمات الإلكترونية أصبحت جزءًا طبيعيًا من الأعمال، وتنظر الأسواق والجهات التنظيمية بشكل متزايد إلى الحوادث على أنها حتمية وليست دليلاً على الإهمال. مع تزايد حجم هجمات الذكاء الاصطناعي، يصبح اعتماد النجاح على الوقاية فقط غير واقعي وغير قابل للإثبات. ويفتح هذا التحول المجال لإعادة التفكير في الطريقة التي ينقل بها الأمن النصر.
وقال إن المرونة تمنح القادة هدفا لضربه. عندما يصبح الهدف هو الحد من التأثير، والحفاظ على العمليات الحيوية، والتعافي بسرعة، فإن التخفيف من منظور الأعمال يعادل الوقاية. ويمكن أيضًا اختبار المرونة وممارستها وقياسها وتحسينها. وقال ماكمولن إنه يجب على المنظمات أن تضع حدود تأثير واضحة تتعلق بسلاسل القيمة ذات المهام الحرجة. تحدد هذه الحدود الاضطرابات المقبولة وتخلق مسؤولية مشتركة بين الأمن والأعمال.
التهديدات الأربعة يجب على المدافعين الرد عليها
وصف واتس البيئة الحالية بأنها مشكلة في الكشف عن الإشارة. وأضاف أن الحديث الأمني من شركات الذكاء الاصطناعي الرائدة يضيف ضجيجًا إلى مشهد التهديدات المزدحم بالفعل، ويجب على القادة العثور على الإشارة الحقيقية عندما تتغير الظروف. وحدد أربعة تهديدات يحتفظ فيها المهاجمون بالتفوق: اختراق تطبيقات الذكاء الاصطناعي، والتزييف العميق، وهجمات سلسلة توريد البرامج، والحقن السريع.
تسوية تطبيقات الذكاء الاصطناعي تتصدر القائمة. يستهدف المهاجمون المجال المتنامي لأدوات الذكاء الاصطناعي للإنتاج، ويتضمن السطح الآن وكلاء مخصصين وعمليات تكامل تابعة لجهات خارجية وتطبيقات داخلية تسرّب البيانات عندما تكون عناصر التحكم ضعيفة. وحث واتس الفرق على رسم خريطة لهذه الأسطح ودمج عمليات التخفيف في التطوير، مدعومة بممارسات تطوير آمنة وتصنيف أقوى للبيانات والتحكم المستهدف في الوصول ومراقبة وقت التشغيل.
تشكل التزييفات العميقة جبهة ثانية. لقد أدى الذكاء الاصطناعي التوليدي إلى زيادة حجم وموثوقية ومدى وصول الصوت والفيديو والصور الاصطناعية. يستهدف المهاجمون المصادقة البيومترية، ويربطونها بالهندسة الاجتماعية ويستخدمونها لتقويض عمليات التجنيد. يقول واتس إن أي قدر من الضوابط لن يحل هذه المشكلة، لذلك يجب على الفرق مواءمة العمليات والوعي والكشف مع تعزيز المصادقة البيومترية.
أما التهديد الثالث فهو الهجمات على سلسلة توريد البرمجيات، والتي تسارعت بسبب العيوب مفتوحة المصدر التي من شأنها أن تؤدي إلى انتشار الذكاء الاصطناعي التوليدي. دفع واتس إلى إنشاء مخزون شامل من البرامج وضوابط قوية في كل مرحلة، بما في ذلك البرامج وقوائم مكونات الصنف المستندة إلى الذكاء الاصطناعي، والمستودعات المُدارة للتعليمات البرمجية والنماذج، وحماية الفروع، وعناصر البناء الموقعة، ومراقبة وقت التشغيل.
حقنة سريعة تكمل القائمة. يتلاعب المهاجمون بالمطالبات التي تغذي نماذج اللغة الكبيرة لتسريب البيانات، أو تشغيل الإجراءات، أو تجاوز عناصر التحكم، وتزداد المخاطر مع زيادة الاعتماد. يقول واتس إن الدفاع متعدد الطبقات يعمل بشكل أفضل، حيث يجمع بين اختبار أمان الذكاء الاصطناعي ومطالبات النظام القوية، وحواجز الحماية في وقت التشغيل، والتحقق من صحة المدخلات، واختبار الحقن المدمج.
الابتكار كعمل يومي
الأولوية الثالثة لماكمولين هي إعادة صياغة الابتكار باعتباره عملًا جاريًا بالفعل. وقال إن حلول الاستجابة للحوادث، وتكامل الأدوات، وتحسينات سير العمل، جميعها لها أهمية، ولكن نادرًا ما تتم تسمية هذا العمل أو حمايته. وتتوقع مؤسسة جارتنر أن المؤسسات التي تستخدم الذكاء الاصطناعي بشكل جيد في مراكز العمليات الأمنية سوف تقلل من الحوادث البشرية بنسبة 30% بحلول عام 2028، مما يحول المحلل من المستجيب إلى المشرف.
وقال مكمولين إن بناء بيئات الاختبار ومحاكاة الهجمات وممارسة التعافي لم يعد يتطلب فرقًا كبيرة أو دورات تخطيط طويلة. يمكن للفرق دمج هذه المهام في العمل اليومي من خلال الهندسة المدعومة بالذكاء الاصطناعي، واكتساب الخبرة أثناء إنتاج أصول قابلة لإعادة الاستخدام. يجب على القادة تخصيص الوقت وقياس ما تتعلمه الفرق حتى تثبت الجهود قيمة العمل.
خذها بعيدا
- تعامل مع الهوية باعتبارها بنية تحتية أساسية وأعط الأولوية لنظافة هوية الآلة على نطاق الأنظمة القائمة على الوكيل.
- خطط الآن للتعرض القائم على الذكاء الاصطناعي: تتوقع شركة Gartner أنه بحلول عام 2028، سيحدث 25% من الانتهاكات عبر أسطح الهجوم القائمة على العملاء.
- تحويل تعريف النجاح من الوقاية إلى المرونة، وربط عتبات التأثير بسلاسل القيمة ذات المهام الحرجة.
- قم بتعيين سطح الهجوم الذي يقدمه الذكاء الاصطناعي التوليدي والأدوات الوكيلة، ثم قم بدمج عمليات التخفيف في عملية التطوير.
- اطلب البرامج ووحدات قائمة مكونات الصنف (BOM) الخاصة بالذكاء الاصطناعي من الموردين وعزز خطوط أنابيب CI/CD ضد التنازلات في سلسلة التوريد.
- يمكنك الدفاع عن نماذج اللغات الكبيرة باستخدام عناصر تحكم متعددة الطبقات: اختبار الأمان، ومطالبات النظام القوية، وعمليات الحماية في وقت التشغيل، والتحقق من صحة الإدخال.
- يمكنك توفير الوقت للتجارب منخفضة المخاطر وقياس ما تتعلمه الفرق حتى يترجم الابتكار الأمني إلى قيمة تجارية.
الرسالة الرئيسية من كلتا الجلستين هي تحول في المواقف: فبينما يمنح الذكاء الاصطناعي المهاجمين قوة جديدة، يكتسب قادة الأمن أكبر قدر من الأرض من خلال تحديث الهوية، وقياس المرونة، والتعامل مع التجارب اليومية باعتبارها العمل الذي يحافظ على تقدم البرامج إلى الأمام.
