تتمتع الخدمات المالية (FS) بأعلى معدل للحوادث الأمنية المتعلقة بالذكاء الاصطناعي في أي قطاع – أعلى من الرعاية الصحية أو التصنيع أو الحكومة. لا تزال معظم المؤسسات تتعامل مع وكلاء الذكاء الاصطناعي على أنهم مجرد عبء عمل آخر. إنهم ليسوا كذلك.
ولأنه قطاع مبني على بيانات حساسة للغاية وأنظمة مترابطة بشكل عميق، فإن المخاطر أعلى. تتجاوز المخاطر مجرد حوادث فردية وتشمل التعرض للبيانات على نطاق واسع والخسائر المالية، والانتهاكات التنظيمية، وفقدان ثقة العملاء، وحتى تعطل النظام عندما تتأثر الخدمات الحيوية.
هذه ليست مشكلة مغلقة. انها تتسرب. ولأن FS غالبًا ما تكون أول من يتبنى تقنيات جديدة، فإن كيفية تعاملها مع الذكاء الاصطناعي اليوم ستؤثر على تطوير الصناعات الأخرى.
إذا أخطأت في الأمر، فسيصبح مخططًا لما لا يجب فعله.
ما الخطأ الذي يحدث؟
فلماذا يحدث هذا؟ تدفع منظمات الخدمات المالية الجهات الفاعلة غير الحتمية إلى الإنتاج دون حواجز للسيطرة عليها.
البيانات واضحة. ليس الذكاء الاصطناعي هو الخطير. إنه الوصول الذي نمنحه إياه. تُبلغ المؤسسات التي توفر وصولاً واسع النطاق إلى وكلاء الذكاء الاصطناعي عن معدلات حوادث أعلى بكثير من تلك التي تفرض ضوابط أقل الامتيازات.
وهذا يخلق فئة مخاطر جديدة تمامًا تتوسع بسرعة. على عكس التقليدية البرمجيات، يعمل وكلاء الذكاء الاصطناعي بشكل مستقل، وبسرعة الآلة، 24 ساعة في اليوم، 7 أيام في الأسبوع ولا يتعبون. لذلك عندما تمنحهم صلاحيات مفرطة، فإنهم لا يعرضون المخاطر فحسب، بل يزيدونها.
لكي يكون عملاء الذكاء الاصطناعي مفيدًا، يحتاجون إلى وصول واسع النطاق عبر الأنظمة. وينطبق هذا بشكل خاص على الخدمات المالية، حيث يتم استخدام الوكلاء لتأهيل العملاء أو إدارة المخاطر ويحتاجون إلى الوصول إلى مجموعة متنوعة من البيانات لاستخلاص النتائج. يعمل الوكلاء أيضًا في بنية تحتية معقدة ومترابطة للغاية. ولهذا السبب تتخذ الفرق طرقًا مختصرة: فهي تمنح أذونات واسعة النطاق لتفعيل الأمور.
هذا هو المكان الذي تبدأ فيه المشكلة. إن الوكلاء المميزين لا يزيدون من احتمالية الكشف عن البيانات فحسب؛ كما أنها تجعل من الصعب رؤية ما يحدث وإثبات السيطرة وتلبية متطلبات التدقيق. عندما يحدث خطأ ما، ليس هناك ما يمكن إيقافه – يزداد نصف قطر الانفجار بسرعة.
إن الضغط من أجل التحرك بسرعة واعتماد أدوات الذكاء الاصطناعي أمر مفهوم. ومع ذلك، تكمن المشكلة في السرعة غير المنضبطة – خاصة في البيئات التي تعاني بالفعل من الهوية المجزأة، وتضخم بيانات الاعتماد، وإدارة الهوية غير المتسقة.
في جوهره، وهذا هو عدم التطابق. تفترض نماذج إدارة الهوية التقليدية وجود مستخدمين ثابتين وإمكانية وصول يمكن التنبؤ بها. ولا وكلاء الذكاء الاصطناعي كذلك. فهي ديناميكية وغير حتمية وتتفاعل باستمرار مع أنظمة متعددة، والنماذج القديمة لا تصمد.
أخبار جيدة؟ هذه الأزمة الأمنية قابلة للحل تماما. وإليك كيفية التعامل معها.
ما الذي يجب تغييره
1. تعامل مع عملاء الذكاء الاصطناعي باعتبارهم هويات من الدرجة الأولى
أولاً، يجب إعادة النظر في الهوية من الألف إلى الياء. وينبغي لكل جهة فاعلة، سواء كانت بشرية أو آلية أو ذكاء اصطناعي، أن تعمل ضمن هيكل واحد آمن ويمكن السيطرة عليه.
بالنسبة لعملاء الذكاء الاصطناعي، يبدأ هذا بهوية فريدة يمكن التحقق منها منذ لحظة إنشائها. لا أوراق اعتماد مشتركة، لا غموض، لا ثغرات.
كل شيء آخر يبني من هناك. جميع الخطوات اللاحقة تعتمد على الحصول على الهوية في البداية. لأنه إذا لم تتمكن من تحديد الوكيل بشكل موثوق، فلن تتمكن من التحكم فيه، وبالتأكيد لن تتمكن من تأمينه.
2. فرض الامتياز الأقل كعنصر التحكم الأساسي
ثم قم بتقييد الوصول إلى ما هو ضروري للغاية. قم بمراجعة الوكلاء الحاليين، وتحديد الوصول ذي الامتيازات الزائدة، وتقييد الأذونات بمهام وأنظمة ومجموعات بيانات محددة.
يجب أن يكون الوصول دقيقًا ومحددًا بالوقت، وأي شيء آخر ينطوي على مخاطر غير ضرورية – وهذا هو المبدأ الأساسي للشركة الوصول إلى الثقة صفر.
3. القضاء على الاعتماد على بيانات الاعتماد الثابتة
تعمل بيانات الاعتماد الثابتة مثل كلمات المرور ومفاتيح API وحسابات الخدمة طويلة الأمد على إنشاء وصول مستمر يصعب التحكم فيه. يبقون. انتشروا. يتم إعادة استخدامها. كل هذا يساهم بشكل مباشر في انتشار أوراق الاعتماد.
وبدلاً من ذلك، استبدلها بإمكانية الوصول على المدى القصير والقائم على الهوية وسياق محدد. لا أسرار دائمة. تم التحقق من الهوية للتو. وهذا مهم بشكل خاص عند إدارة هوية الأجهزة وأحمال العمل على نطاق واسع.
4. بناء الرؤية والتحكم الكاملين
وبدون الرؤية، تنمو المخاطر بصمت – حتى لا تنمو. لا يمكن لوكلاء الذكاء الاصطناعي أن يتصرفوا كصناديق سوداء. يجب تسجيل كل إجراء وتتبع كل حركة عبر الأنظمة وسير العمل. وينبغي دمج هذه الرؤية في عمليات الرصد والكشف الحالية.
لا رؤية ولا مساءلة. وعدم وجود إدارة فعالة للهوية.
قم بتحويل إدارة هويتك إلى عالم مدعوم بالذكاء الاصطناعي
ويجب أن تصبح الهوية تخصصًا هندسيًا، وليس مجرد وظيفة أمنية. وهذا يعني أن فرق النظام الأساسي والهندسة والأمن تتوافق حول نموذج هوية واحد، بدلاً من الجمع بين الأدوات بمجرد دخول الوكلاء في مرحلة الإنتاج.
وهذا يعني مواءمة النظام الأساسي والهندسة والأمن حول نموذج مشترك. دمج الأنظمة المجزأة في طبقة هوية موحدة لتقليل التعقيد وتوفير تحكم أكبر. التعامل مع الهوية باعتبارها بنية تحتية أساسية، وليست وظيفة إضافية.
لقد تم دمج وكلاء الذكاء الاصطناعي بالفعل في الخدمات المالية. هذا لا يتغير. ولكن الطريقة التي يتم تأمينها يجب أن. إن التعامل مع الوكلاء المستقلين وكأنهم أعباء تقليدية ليس كافيا، والافتراض بأنهم يتناسبون مع نماذج الهوية الحالية هو مجرد تفكير بالتمني.
في الخدمات المالية، الهوية ليست مربع اختيار للامتثال. البنية التحتية هي التي تحدد ما إذا كان الذكاء الاصطناعي يمكن أن يتوسع على الإطلاق.
لدينا أفضل برامج RPA، مما يجعل خفض التكلفة أمرًا بسيطًا وسهلاً باستخدام أتمتة العمليات الروبوتية.
تم إنشاء المقالة كجزء من توقعات TechRadar بروتعرض قناتنا أفضل وألمع العقول في صناعة التكنولوجيا اليوم.
الآراء الواردة هنا هي آراء المؤلف وليست بالضرورة آراء TechRadarPro أو Future plc. إذا كنت مهتمًا بالتعاون، يمكنك العثور على مزيد من المعلومات هنا: https://www.techradar.com/pro/perspectives-how-to-submit
