أربعة تهديدات للأمن السيبراني تجاوزت دفاعات المؤسسات و بحسب جارتنريتمتع المهاجمون الآن بميزة واضحة في استغلال كل واحد منهم. وعلى وجه الخصوص، حددت الشركة التزييف العميق، واختراق تطبيقات الذكاء الاصطناعي، والحقن السريع والهجمات على سلسلة توريد البرمجيات باعتبارها الثغرات الأكثر إلحاحًا التي يتعين على قادة الأمن إغلاقها.
وتصدرت التهديدات الأربعة نموذج ThreatScape 2026-2027 الخاص بالشركة، وهو نموذج يصنف المخاطر إلى ست فئات باستخدام محورين. يزن أحد المحاور جودة وحجم إشارة التهديد المتاحة. ويقيس الآخر ما إذا كانت المنظمة قادرة على احتواء تهديد معين وما إذا كان المهاجم يحتفظ بالميزة. وفي جميع الحالات الأربع الحرجة، لم تتمكن الأدوات والقدرات الحالية من اللحاق بالركب.
يقول جون واتس، نائب الرئيس للمحلل في شركة Gartner، إن المبادرات الأمنية من شركات الذكاء الاصطناعي الرائدة أضافت ضجة كبيرة إلى مشهد التهديدات المزدحم بالفعل. ونتيجة لذلك، أشار إلى أنه يجب على قادة الأمن السيبراني فصل إشارة التهديد الحقيقية عن تلك الضوضاء قبل أن يتمكنوا من الاستجابة لسلوك المهاجم المتغير. بالنسبة لمسؤولي تكنولوجيا المعلومات في مجال الرعاية الصحية الذين يوازنون الميزانيات المحدودة مع الاستخدام المتزايد للذكاء الاصطناعي، أصبح هذا العمل الآن محوريًا في عملهم.
سطح هجوم الذكاء الاصطناعي المتوسع
حققت التسوية لتطبيقات الذكاء الاصطناعي المركز الأول. يستهدف المهاجمون بشكل متزايد الأدوات الجاهزة للإنتاج المخصصة لكل من المستخدمين العامين والداخليين. وقال واتس إن سطح الهجوم توسع ليشمل الوكلاء المخصصين وتكاملات الجهات الخارجية والتطبيقات المخصصة للموظفين فقط. ولكن عندما تكون الضوابط ضعيفة، فغالبًا ما تكشف نقاط الوصول هذه عن بيانات أو بيانات اعتماد حساسة.
وأشار واتس إلى اعتماد جارتنر ومخاطرها في إدارة الأمن تريسمإطار العمل كوسيلة للفرق لدمج الحلول الخاصة بالذكاء الاصطناعي مباشرة في عملية التطوير. بالإضافة إلى ذلك، تقدم العديد من الشركات الناشئة في مجال أمن الذكاء الاصطناعي إمكانات أوسع مع نضوج المؤسسات وحاجتها إلى ضوابط أقوى. ولسد هذه الفجوة، كما يقول، يجب على مسؤولي أمن المعلومات تطبيق دورة حياة التطوير الآمنة وممارسات نمذجة التهديدات على تطبيقات الذكاء الاصطناعي. بالإضافة إلى ذلك، يحتاجون إلى تحسين تصنيف البيانات وتنفيذ التحكم في الوصول المستهدف وتنفيذ مراقبة وقت التشغيل.
أثار الحقن السريع مخاوف مماثلة. وتستهدف هذه التقنية أنظمة الذكاء الاصطناعي المبنية على نماذج لغوية كبيرة، حيث يتلاعب المهاجمون بالإشارات لتغيير سلوك النموذج. على وجه الخصوص، قد يؤدي الهجوم الناجح إلى تسريب معلومات حساسة، أو إثارة إجراءات غير مصرح بها، أو تجاوز الضوابط. ومع اعتماد أنظمة الرعاية الصحية للذكاء الاصطناعي التوليدي في العمليات السريرية والإدارية، فإن سطح المخاطر ينمو وفقًا لذلك.
ولمواجهة ذلك، أوصى واتس بالدفاع متعدد الطبقات. على سبيل المثال، يمكن للفرق إجراء اختبارات أمان الذكاء الاصطناعي لاكتشاف نقاط الضعف مبكرًا، وكتابة مطالبات نظام قوية لتوجيه السلوك، ونشر حواجز الحماية في وقت التشغيل التي تشير إلى الأنشطة المشبوهة. وأوصى أيضًا بالتحقق من صحة الإدخال لتصفية المطالبات الضارة، ومراقبة سلوك الذكاء الاصطناعي غير الطبيعي، واختبار الحقن الفوري كجزء من دورة حياة التطوير. وينبغي أن تؤدي نتائج الاختبار بدورها إلى إجراء فحوصات أقوى أثناء التشغيل.
عندما تهزم التزييف العميق الثقة
لقد أدى الذكاء الاصطناعي التوليدي إلى زيادة كبيرة في حجم وموثوقية وإمكانية الوصول إلى التزييف العميق في الكلام والفيديو والصور. وقال واتس إن المهاجمين ينتجون الآن هذه التزييفات كملفات مسجلة مسبقًا أو يقومون بتوليدها مباشرة أثناء الهجوم. تتيح لهم هذه القدرة انتحال هوياتهم على العديد من الأسطح، بدءًا من المصادقة البيومترية وحتى الهندسة الاجتماعية في الوقت الفعلي ضد الموظفين وحتى الاحتيال في التوظيف.
وقال واتس إن أي قدر من السيطرة لن يحل المشكلة. وبدلاً من ذلك، يجب على المؤسسات أن تجمع بين عمليات تجارية أقوى، وتدريب أفضل للتوعية، وتكنولوجيا الاستشعار حيثما يمكن نشرها، كما يقول. وأكد أن الكشف وحده لا يمكن أن يوقف هذه الهجمات. ولذلك، يجب على الفرق بناء طبقات من التحكم تتغير عبر حالات الاستخدام. بالنسبة للمصادقة البيومترية، فهذا يعني الكشف عن العروض التقديمية وهجمات الحقن بالإضافة إلى الإشارات السياقية. وفي الوقت نفسه، بالنسبة للاجتماعات عبر الإنترنت، يعني ذلك سياسات الوصول المشروط وتحليل البيانات التعريفية للمحادثة.
بالإضافة إلى ذلك، ينتشر تهديد التزييف العميق بشكل خاص في مجال الرعاية الصحية، حيث تؤدي الموافقات الصوتية والاستشارات عن بعد والتوظيف على نطاق واسع إلى خلق فرص عمل. يمكن لانتحال شخصية طبيب أو مدير بشكل مقنع تحويل الأموال أو نشر السجلات أو منح حق الوصول إليها في غضون دقائق.
تعزيز سلسلة توريد البرمجيات
وقد استكملت هجمات سلسلة توريد البرمجيات الأربعة. وقال واتس إن انتشار عروض الذكاء الاصطناعي التوليدية لن يؤدي إلا إلى تسريع الهجمات التي تستغل نقاط الضعف في البرمجيات مفتوحة المصدر. واستجابة لذلك، يجب على المؤسسات إنشاء سجلات موثوقة للمكونات، وتعزيز خطوط التسليم الخاصة بها، وتعزيز اكتشاف الحالات الشاذة.
يبدأ العمل بالرؤية. وقال واتس إن الفرق بحاجة إلى بناء قوائم جرد شاملة لأصول البرمجيات ودمج ضوابط قوية في كل مرحلة من مراحل التطوير. على وجه التحديد، يجب على CISOs أن يطلبوا البرامج وقوائم مكونات الصنف للذكاء الاصطناعي من جميع البائعين ثم تقييم كل مكون من حيث المخاطر باستخدام معلومات التهديدات الحالية قبل النشر. وأوصى أيضًا بالمستودعات المُدارة لرموز الطرف الثالث، وصور الحاويات، ونماذج الذكاء الاصطناعي، إلى جانب حماية الفروع في مستودعات التعليمات البرمجية. أخيرًا، يجب على الفرق التوقيع على المكونات أثناء عمليات الإنشاء، وفرض أقل قدر من الوصول إلى الامتيازات لأنظمة الإنشاء، ومراقبة نشاط أداة الوكيل بشكل مستمر.
تعتبر هذه التدابير مهمة لأن نقاط الضعف في سلسلة التوريد تصل إلى كل من التطبيقات التقليدية وخطوط الأنابيب الحديثة التي تعمل بالذكاء الاصطناعي. يمكن لمكون واحد مخترق أن يمتد إلى أي نظام فرعي يعتمد عليه.
خذها بعيدا
- تعامل مع التزييف العميق وتسوية تطبيقات الذكاء الاصطناعي والحقن السريع وهجمات سلسلة توريد البرامج باعتبارها أولويات معاصرة لميزانيات اليوم.
- قم بتعيين سطح الهجوم الجديد الذي تم إنشاؤه بواسطة نماذج GenAI والوكلاء وعمليات تكامل الجهات الخارجية قبل إضافة عناصر التحكم.
- قم ببناء دفاعات متعددة الطبقات ضد التزييف العميق
- اطلب البرامج وقوائم مكونات الصنف للذكاء الاصطناعي من كل بائع وقم بمراجعة كل مكون قبل التنفيذ.
- قم بدمج اختبار الحقن السريع في دورة حياة تطوير الذكاء الاصطناعي وأرسل النتائج مرة أخرى إلى حواجز الحماية في وقت التشغيل.
في جميع التهديدات الأربعة، عاد واتس إلى رسالة واحدة حول السرعة. لا يمكن للمدافعين الاعتماد على الكشف أو أي تحكم لمواكبة المهاجمين، الذين يتحركون الآن بشكل أسرع ويصلون إلى مسافة أبعد. بالنسبة لأنظمة الرعاية الصحية التي تتسابق لنشر الذكاء الاصطناعي مع حماية بيانات المرضى، فإن الطريق إلى الأمام يمر عبر ضوابط متعددة الطبقات، وقوائم جرد منضبطة، وحوكمة تتعامل مع مخاطر الذكاء الاصطناعي باعتبارها مصدر قلق تشغيلي في العصر الحديث.
-1.png "من العيادات الريفية إلى التعافي عن بعد: كيف تعمل الرعاية الصحية عن بعد على تحويل الرعاية الصحية الأمريكية")
