- بحلول عام 2027، ستحتاج شركتان من كل خمس شركات إلى تقليل عدد وكلاء الذكاء الاصطناعي
- وتم حث الشركات على إعادة النظر في مبادئ الإدارة الأساسية
- تم تقديم إطار عمل مفصل من أربع خطوات
حذرت شركة جارتنر من أن ما يصل إلى اثنتين من كل خمس مؤسسات سيتعين عليها تقاعد موظفي الذكاء الاصطناعي بحلول عام 2027 بسبب الثغرات الموجودة في إطار الحوكمة الخاصة بهم والتي لا يمكن اكتشافها إلا بعد وقوع الحوادث.
وذلك لأن المؤسسات تتعامل مع وكلاء الذكاء الاصطناعي على أنهم مغلقون تمامًا أو موثوق بهم تمامًا – وهذه الضوابط الموحدة هي التي قد تشكل أكبر مشكلة للشركات خلال السنوات القليلة المقبلة.
يوضح التقرير أن هذا قد يشكل في الواقع خطرين – بالإضافة إلى الثقة الواضحة غير المحسوبة التي تمنح الوكلاء إمكانية الوصول إلى الأنظمة التي لا ينبغي لهم الوصول إليها، والسياسات الصارمة بشكل مفرط قد تدفع الموظفين إلى استخدام أدوات أخرى غير معتمدة، مما يزيد من احتمالية الكشف عن البيانات.
تعد الحوكمة قضية رئيسية بالنسبة للذكاء الاصطناعي القائم على الوكيل
وللمضي قدمًا، توصي جارتنر الشركات باعتماد إطار عمل من أربع خطوات لمزيد من التحكم الدقيق في الوصول، بدءًا من “المستوى الأول: المراقبة”. وهذا من شأنه أن يمنح وكلاء الذكاء الاصطناعي إمكانية الوصول للقراءة فقط إلى مصادر البيانات المحددة، وستكون النتائج متاحة فقط للمستخدم الطالب.
“المستوى 2: تقديم المشورة” من شأنه أن يضيف معلومات إضافية إلى ذلك، مما يؤدي إلى إنشاء توصيات أو إجراءات مقترحة يجب فحصها يدويًا بواسطة البشر – وبموجب هذه السياسة، لا يزال الوكلاء غير قادرين على الوصول إلى سجلات الأنظمة.
للحصول على الوصول الكامل للقراءة والكتابة، سيسمح “المستوى 3: إجراء الموافقة” للوكلاء بتنفيذ الإجراءات وكتابة البيانات وإرسال الرسائل، ولكن فقط بموافقة بشرية صريحة في كل مرة.
المبدأ الأخير، “المرحلة الرابعة: التصرف بشكل مستقل”، هو أن عملاء الذكاء الاصطناعي يمكنهم التصرف حقًا من خلال أداء الإجراءات بمفردهم. وسيظل الأشخاص مشاركين في الاستثناءات وسجلات التدقيق ومستويات الأداء الإجمالية.
“نظرًا لأن المسؤولية عن الأداء تقع على عاتق المنظمة، فإن هذا المستوى يتطلب الإدارة الأكثر صرامة، بما في ذلك المراقبة المستمرة، وحواجز الحماية القسرية، وآليات الاستدعاء السريع، وقواطع الدائرة التي توقف عمل الوكيل مؤقتًا عند تجاوز العتبات، والمساءلة الواضحة عن سلوك الوكيل،” أوضح مدير كبير المحللين شيفا فارما.
ويهدف تقرير جارتنر بشكل أساسي إلى تذكير الشركات بأن الاندفاع نحو الاستقلالية دون النظر بعناية في ما يستطيع الوكلاء قراءته وكتابته يمكن أن يضر بالأمن لاحقًا. ومن خلال اتباع نهج إداري محسوب، يمكن للشركات تجنب التراجع عن رد الفعل تمامًا.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدرك المفضل لتلقي أخبار ومراجعات وآراء الخبراء حول قنواتك.
