تم تحديد علاقة المؤسسة بالذكاء الاصطناعي سابقًا من خلال التبادل البسيط للتلميحات والإجابات. لقد جربت المؤسسات نماذج اللغة لإنشاء رسائل البريد الإلكتروني أو تلخيص المستندات أو إنشاء التعليمات البرمجية. وفي عام 2026، انتقلت هذه الديناميكية إلى عصر المؤسسة الوكيلة.
مدير فني أول في ExtraHop.
لم يعد الذكاء الاصطناعي متلقيًا سلبيًا للتعليمات. لقد أصبحت شبكة من الوكلاء النشطين والمستقلين الذين يعملون نيابة عن العميل أو الموظف لنقل البيانات والتفاعل مع أنظمة الأعمال الأساسية وتنفيذ مهام سير عمل متعددة الخطوات دون تدخل.
ورغم أن هذا التحول يقدم نطاقا غير مسبوق، فإنه خلق فجوة ثقة كبيرة. غالبًا ما تفشل أدوات الأمان التقليدية في التمييز بين سير العمل المشروع والمستقل وعمليات الاستغلال الضارة، مما يترك نقطة عمياء بالغة الأهمية في مجموعة التكنولوجيا الحديثة.
تحتاج فرق الأمن الآن إلى إدارة التهديدات التي تتحرك بشكل أسرع من الرقابة البشرية، لذلك أصبح التمييز بين الأداة الآلية والتهديد الآلي أولوية ملحة.
تزايد سطح هجوم الذكاء الاصطناعي
لقد أدى الاعتماد السريع للوكلاء المستقلين إلى تغيير سطح الهجوم المؤسسي بشكل أساسي. يعد كل خادم أو واجهة برمجة تطبيقات Model context Protocol جديدة بمثابة بوابة محتملة لقلب العمل.
أدى هذا إلى ظهور Shadow AI 2.0. في السابق، كان القلق الرئيسي الموظفون الذين يستخدمون حسابات الدردشة عبر الإنترنت غير المعتمدة لمعالجة بيانات الشركة. يكمن الخطر حاليًا في ظهور عملاء غير معتمدين على الشبكة وإنشاء مسارات مخفية لمعلومات داخلية حساسة.
غالبًا ما يعمل هؤلاء الوكلاء غير المصرح لهم خارج نطاق بروتوكولات إدارة الهوية والوصول القياسية. نظرًا لأنها مصممة لربط أنظمة متباينة لإنجاز المهام، فهي تتمتع بطبيعتها بالأذونات المطلوبة للتنقل عبر الأجزاء الحساسة من الشبكة.
يجب على المؤسسات إنشاء جرد مستمر وآلي لأصول الذكاء الاصطناعي. المنطق مطابق لتأمين إنترنت الأشياء. مثلما يجب على فريق الأمان معرفة وجود جهاز فعلي قبل أن يتمكنوا من تصحيحه، يجب عليهم الآن تعيين كل نقطة نهاية للأداة وخادم مشترك في سير عمل الذكاء الاصطناعي.
وبدون خريطة شاملة لهذه الاتصالات، تصبح النقاط الميتة عناصر دائمة في بنية الشبكة. يجب أن يكون هذا المخزون ديناميكيًا ويمكّن من تحديد الوكلاء الجدد عند إنشائهم وإيقافهم في الوقت الفعلي.
المراقبة في الوقت الحقيقي وفجوة النية
تشكل المراقبة في الوقت الفعلي للوكيل المستقل تحديًا تقنيًا فريدًا لأن أدوات المحيط التقليدية غير كافية لتتبع حركة المرور الداخلية.
عندما يبدأ الوكيل سلسلة معقدة من الإجراءات عبر الأقسام، فمن الصعب تحديد ما إذا كان الوكيل قد تم اختراقه أم لا. يمكن لمجموعة من الإجراءات التي تبدو طبيعية بشكل فردي أن تشكل انتهاكًا خطيرًا عند النظر إليها على أنها تسلسل جماعي.
يكمن الحل في إمكانية المراقبة العميقة للشبكة. يجب تحليل جميع حركة مرور الذكاء الاصطناعي وفك تشفيرها لربط الأنشطة عبر المكدس.
يسمح هذا المستوى من الرؤية لفرق الأمان بتتبع كيفية تحرك الأذونات خلال سير العمل ويمكنها اكتشاف ما إذا كان الوكيل يحاول تصعيد أذوناته الخاصة أو نقل البيانات إلى وجهة لم يتم التحقق منها.
من خلال التركيز على سلوك البيانات، وليس فقط هوية المستخدم، يمكن للمؤسسات اكتشاف متى ينحرف الوكيل عن الغرض المقصود.
الدفاع ضد الحقن الفوري والانحرافات السلوكية
يستخدم الخصوم بشكل متزايد الحقن الفوري للتلاعب بسلوك العملاء على الأرض مستوى الشبكة. ومن خلال إدخال تعليمات محددة في النظام، يمكن لممثل خبيث خداع الوكيل لتجاهل القيود الأمنية أو تسريب بيانات الملكية.
غالبًا ما تبدو هذه الهجمات وكأنها حركة مرور مشروعة لجدار الحماية، مما يعني أنها تتطلب أسلوبًا دفاعيًا مختلفًا. يفشل الكشف التقليدي المعتمد على التوقيع هنا لأن الهجوم يتم باستخدام لغة طبيعية، والتي تظهر كتفاعل قياسي حميد مع أدوات المراقبة القديمة.
إن استخدام الشبكة كمصدر للحقيقة هو الطريقة الأكثر فعالية لمواجهة هذه المناورات. من خلال مراقبة الانحرافات عن أنماط السلوك الراسخة، يمكن لفرق الأمان اكتشاف الهياكل السريعة غير العادية أو تدفقات البيانات بشكل مستمر.
لا يتعلق الأمر بمعرفة شكل هجوم معين مسبقًا. يتضمن ذلك معرفة الشكل الطبيعي لوكيل معين ووضع علامة على أي شيء يقع خارج تلك المعلمات.
على سبيل المثال، إذا كان الوكيل يصل عادةً إلى قاعدة بيانات لإنشاء تقرير، فإن المحاولة المفاجئة لبدء نقل ملف إلى عنوان IP خارجي ستؤدي إلى إجراء تحقيق على الفور.
غالبًا ما تكون أطر الامتثال والسياسات هي العناصر الأولى التي تفشل خلال فترات التوسع التكنولوجي السريع. ومع اندفاع الشركات إلى نشر المزيد من الوكلاء، تميل الفجوة بين السياسة الرسمية ونشاط الشبكة الفعلي إلى الاتساع.
ولا ينبغي لنا أن ننظر إلى الحكم باعتباره مجموعة من القواعد الثابتة، بل باعتباره عملية نشطة يدعمها التحليل القضائي.
يتطلب ضمان بقاء الذكاء الاصطناعي ضمن أطر تشغيلية محددة القدرة على تدقيق كل مسار إجراء وقرار. يوفر هذا المستوى من الإشراف دليلاً ضروريًا على الامتثال التنظيمي مع منح الشركة الثقة في الابتكار.
عندما تتمكن فرق الأمان من إثبات أن الوكيل يعمل بشكل آمن وشفاف، يتوقف الذكاء الاصطناعي عن كونه خطرًا محسوسًا ويصبح أصلًا تم التحقق منه. الهدف هو إنشاء بيئة رقمية حيث يمكن تحقيق الفوائد الكاملة لأتمتة الوكيل دون التضحية بسلامة البنية التحتية للبيانات الأساسية.
إن الإشراف الشامل هو الطريقة الوحيدة لضمان أن يكون عصر مؤسسة الوكيل آمنًا بقدر ما هو منتج. ومع استمرار تلاشي الخط الفاصل بين اتخاذ القرار في مجال الذكاء الاصطناعي ونتائج الأعمال، فإن القدرة على مراقبة هذه الجهات الفاعلة المستقلة والتحكم فيها ستحدد مدى نجاح المؤسسة على المدى الطويل.
تقديم أداة الذكاء الاصطناعي النهائية.
تم إنشاء المقالة كجزء من توقعات TechRadar بروتعرض قناتنا أفضل وألمع العقول في صناعة التكنولوجيا اليوم.
الآراء الواردة هنا هي آراء المؤلف وليست بالضرورة آراء TechRadarPro أو Future plc. إذا كنت مهتمًا بالتعاون، يمكنك العثور على مزيد من المعلومات هنا: https://www.techradar.com/pro/perspectives-how-to-submit
