“ضمان الجودة سيكون مشكلة كبيرة. كيف تعرف أن أدواتك فعالة؟ علينا أن نفترض أنه بعد عامين من الآن، ستكون نسبة كبيرة من الهجمات مدعومة بالذكاء الاصطناعي. يقول باتريك بيجز، CISO من ConnectWise، “نحن بحاجة إلى تحدي موردينا لتغيير كيفية تطبيقهم للذكاء الاصطناعي في أمان البريد الإلكتروني، وفي أدوات SIEM، في كل مكان.”
وفقًا لـ CISO في ConnectWise، مع التوسع السريع في أدوات الذكاء الاصطناعي، يجب على MSPs إعادة التفكير في إدارة مخاطر الطرف الثالث ومعايير التطوير الداخلي الخاصة بهم.
“هذا يسلط الضوء على شيء كنت أتحدث عنه منذ سنوات، وهو إدارة مخاطر الطرف الثالث،” قال باتريك بيجز، كبير مسؤولي أمن المعلومات لدى البائع الذي يقع مقره في تامبا بولاية فلوريدا، لـ CRN. “لا تزال العديد من الشركات لا تبذل العناية الواجبة الصحيحة بشأن التطبيقات التي تقدمها إلى بيئاتها. أضف الآن بعض التطبيقات الذكية والقوية بشكل لا يصدق، والتي من المحتمل أن تؤدي في الأيدي الخطأ إلى مضاعفة الشر. لا يمكنك تخطي الأساسيات.”
وقال بيغز إن ConnectWise تعمل على تشديد عمليات التفتيش الخاصة بها مع مراقبة المعايير الناشئة على أساس يومي. وقال: “إننا نتطلع أيضًا إلى التوجيهات الأمريكية مثل أطر عمل الذكاء الاصطناعي NIST (المعهد الوطني للمعايير والتكنولوجيا) ومركز أمن الإنترنت CIS. وسيكون هذا بالتأكيد جزءًا من كيفية تقييمنا لتطبيقات الطرف الثالث وكيفية بناءنا داخليًا”.
,متصل: ConnectWise CISO حول التهديدات والحلول الإلكترونية الخاصة بالذكاء الاصطناعي: “إنه مثل سباق التسلح الرقمي، على طراز Terminator”)
على الرغم من التقدم في الذكاء الاصطناعي، قال CISO إن برنامج ConnectWise لن يتجاوز ممارسات التطوير الآمنة الحالية. لا يزال يتعين عليها المرور عبر “بوابات الأمان” نفسها في دورة حياة التطوير.
وتتعامل الشركة مع الخروقات والانقطاعات العامة كفرص تدريب في الوقت الفعلي، سواء تأثر ConnectWise أم لا. عندما واجهت AWS مؤخرًا انقطاعًا في الخدمة، قال بيجز إن ConnectWise أجرت على الفور تقييمًا داخليًا للتأثير.
وقال “لقد استخدمنا الانقطاعات كممارسة مجانية لسنوات”. “لقد سألت الفريق: “كيف تعرف أن الأمر مجرد انقطاع في تكنولوجيا المعلومات؟” نحن نستخدم مثل هذه الأحداث للاستجابة للحوادث والتدريب على تكرار الأعمال. وخلال هذا الانقطاع الأخير، كانت فرق Intel لدينا تعمل على جهات الاتصال الخاصة بهم للتأكد من أن الأمر لم يكن شيئًا آخر.
وعندما سُئل عن الدروس المستفادة من ثغرة ConnectWise ScreenConnect التي تم الكشف عنها في وقت سابق من هذا العام، قال إن الحادث سلط الضوء على العديد من التحسينات في العمليات الداخلية.
وقال: “هناك نقاط ضعف في البرنامج”. “يبحث فريق سلامة المنتجات لدينا دائمًا عن طرق لربط البراغي، وقد وجدنا بعض البراغي لربطها. نحن نعمل مع باحثين خارجيين طوال الوقت. نريد الحفاظ على هذا الانفتاح. وكان هذا درسًا جيدًا لتعزيز ذلك.”
ومع بدء ظهور عملاء الذكاء الاصطناعي داخل منصات إدارة تكنولوجيا المعلومات، يجب على المؤسسات معاملتهم بنفس التدقيق والانضباط الذي تتعامل به الهويات البشرية. وحث فرق تكنولوجيا المعلومات على معاملتهم بنفس الطريقة التي يعاملون بها أي مستخدم آخر: انعدام الثقة، وحقوق محدودة، والوصول فقط إلى البيانات التي يجب أن تكون لديهم. “إنهم يعملون بسرعة كبيرة، لذا عليك أن تفهم السرعة والنطاق.”
لكن تدريب عملاء الذكاء الاصطناعي لا يزال نظامًا في مرحلة مبكرة. ومع ذلك، فإن الأمر كله يتعلق بسلامة البيانات، “إذا أعطيته بيانات سيئة، فسوف يكتسب عادات سيئة. إنه مثل أي شخص تمامًا.”
ومع ذلك، حذر من أن التهديد الأكثر إلحاحا يمكن أن يأتي من المهاجمين الذين يستخدمون الذكاء الاصطناعي لتعزيز الهجمات، موضحا أن تحويل البرمجيات الخبيثة إلى سلعة سوف “ينفجر أكثر”.
وقال: “سيعمل الذكاء الاصطناعي على تمكين هذا الجزء من المنزل بشكل أكبر وعلى نطاق واسع”.
ويتوقع أيضًا أن تتسارع السياسة الفيدرالية بشأن الذكاء الاصطناعي ويراقب عن كثب إطار عمل سلامة الذكاء الاصطناعي الذي يتطور في الوقت الفعلي، أي مسودة إرشادات NIST.
وقال: “إن هذا يتطور بسرعة كبيرة بحيث يجب أن يكون التوجيه مرناً”. “يجب أن تكون هناك مرونة. لكن الأساسيات لا تزال تتمثل في انعدام الثقة، والترخيص المناسب، وفهم البيانات التي يمكن لأنظمة الذكاء الاصطناعي هذه الوصول إليها.”
وللحفاظ على الزخم، قال إن ConnectWise تعمل على تعميق التعاون مع أقرانها في الصناعة، وحتى المنافسين.
وقال: “نحن نتجاهل المنافسة عندما يتعلق الأمر بالأمن”. “يمكن لعملائهم أن يكونوا عملاءنا، ويمكن أن يكون عملاؤنا عملاءهم. نحن نشارك ما هو مهم.”
داخليًا، تقوم Beggs بإعداد فرقها لما سيأتي من خلال أتمتة وظائف الامتثال وسير عمل مركز العمليات الأمنية.
بالنسبة للشركاء، الخطوة الأولى هي فهم الإرشادات المتوفرة بالفعل. وحث الشركاء على معرفة ما هو موجود، ولكن على أن يكونوا على دراية بالمصادر. “احذر من إرشادات الظل. التزم بـ ISO وNIST والأقران الموثوق بهم.”
وبالنظر إلى المستقبل، قال إن اهتمامه الأكبر هو ضمان بقاء الأدوات الدفاعية فعالة مع اعتماد المنافسين للذكاء الاصطناعي على نطاق واسع، واصفًا ذلك بسباق التسلح السيبراني.
“سيكون ضمان الجودة أمرًا مهمًا. كيف تعرف أن معداتك فعالة؟” قال. “علينا أن ندرك أنه بعد عامين من الآن، ستتم الاستفادة من نسبة كبيرة من الهجمات بواسطة الذكاء الاصطناعي. نحن بحاجة إلى تحدي موردينا لتغيير كيفية تطبيق الذكاء الاصطناعي في أمن البريد الإلكتروني، وفي أدوات SIEM (معلومات الأمان وإدارة الأحداث)، في كل مكان.”
