لقد كان هناك تغير ملحوظ في اللهجة حول الذكاء الاصطناعي منذ الاجتماع السنوي للمنتدى الاقتصادي العالمي في دافوس.
لقد تجاوزت المحادثات التوقعات والإنجازات الجريئة لفهم ما يتطلبه الأمر حقًا لدمج الذكاء الاصطناعي الوكيل في نسيج المؤسسات، والأهم من ذلك، ضمان عمله بأمان على نطاق واسع.
نائب رئيس هندسة الحلول في UK&I في Dynatrace.
يسلط تقريرنا لعام 2026 حول الذكاء الاصطناعي الوكيل الضوء على أن الأسئلة المطروحة أكثر عملية، مثل كيف نبني أنظمة مستقلة يمكن الوثوق بها؟ كيف يمكن الحفاظ على الرقابة دون إضعاف المرونة؟ كيف يمكن إنشاء هياكل إدارية من شأنها تسريع الابتكار، وليس إيقافه؟
ومن المشجع أن الرغبة في الاستثمار تشير إلى أن المؤسسات جادة بشأن التوسع، حيث يخطط ما يقرب من ثلاثة أرباعها لزيادة الإنفاق على الذكاء الاصطناعي القائم على الوكلاء خلال العام المقبل.
ومع ذلك، فإن الاستثمار وحده لن يضمن تأثير الأعمال، وبدون إزالة العوائق أمام الحجم، فإن الميزانيات الأكبر تخاطر بإنشاء المزيد من المشاريع التجريبية بدلاً من تمكين التحول الهادف.
بالنسبة للمؤسسات في جميع أنحاء منطقة أوروبا والشرق الأوسط وأفريقيا، فإن هذه العوائق واضحة. ولا يتمثل التحدي الرئيسي في الافتقار إلى المواهب، بل في المخاوف بشأن أمن البيانات والخصوصية، حيث تشير أكثر من نصف المؤسسات في المنطقة إلى هذين الأمرين باعتبارهما أكبر العقبات التي تحول دون التوسع.
لماذا لا يكفي الطيارون؟
ومن الواضح أن مشاريع الذكاء الاصطناعي الوكيل لن تقدم قيمة كبيرة إذا كانت عالقة في المرحلة التجريبية.
حتى الآن، ركزت معظم التطبيقات على عمليات تكنولوجيا المعلومات، ولكننا بدأنا نرى هذا التغيير. تستخدم المزيد والمزيد من المؤسسات الذكاء الاصطناعي القائم على الوكلاء في المجالات المتكررة التي تواجه العملاء، على سبيل المثال خدمة العملاء، حيث يكون التأثير أكثر وضوحًا.
وحتى في مجالات مثل الخدمات القانونية – وهي حاليًا واحدة من أبطأ القطاعات في اعتماد الذكاء الاصطناعي – من المتوقع أن تزداد الأتمتة بشكل كبير خلال السنوات القليلة المقبلة، مما يدل على أن الثقة في حالات الاستخدام الأكثر تعقيدًا آخذة في التزايد.
ومن المثير للاهتمام أن نفس الميزات التي يمكنها تحسين سير عمل تكنولوجيا المعلومات يمكنها أيضًا تغيير الطريقة التي تخدم بها الشركات العملاء وتدفع النمو التجاري. ومع ذلك، مع اقتراب الذكاء الاصطناعي من العملاء وعمليات صنع القرار الرئيسية، تزداد المخاطر بشكل طبيعي، مما يتطلب قدرًا أكبر من الإشراف وإدخال حواجز الحماية.
الأمن والخصوصية كحراس بوابة: لماذا لا يزال العمل البشري في الحلقة ضروريًا
بالنسبة للمؤسسات الحديثة، يعد الأمان وحماية الخصوصية من أهم المعايير لنقل المشاريع من المرحلة التجريبية إلى مرحلة الإنتاج. ومع ذلك، بالنسبة للعديد من القادة، فإن العائق الحقيقي ليس تعقيد التكنولوجيا نفسها، بل الثقة.
إن بناء الثقة يعني تحديد حدود واضحة يمكن لوكيل الذكاء الاصطناعي أن يتصرف ضمنها بشكل مستقل، ولكن أيضًا ضمان الإشراف البشري في نقاط القرار الحاسمة. ومن الواضح بشكل متزايد أنه في عصر الذكاء الاصطناعي الوكيل، أصبحت الثقة هي آلية السيطرة النهائية.
في الوقت الحالي، تتم الآن مراجعة ما يقرب من 70% من قرارات عملاء الذكاء الاصطناعي من قبل البشر، وتقوم نصف المؤسسات تقريبًا بإجراء مراجعة لأداء الذكاء الاصطناعي كجزء من المراجعة. يشير هذا إلى توازن متعمد: فالبندول لا يتأرجح بالكامل في الاتجاه الأتمتة، ولا العودة إلى السيطرة البشرية البحتة.
وبدلا من ذلك، نرى توازنا إنتاجيا. الحكم البشري والذكاء الاصطناعي القائم على الوكيل متكاملان – يتحرك الذكاء الاصطناعي بسرعة ويوفر البشر التوجيه وحواجز الحماية. لا يظهر الذكاء الاصطناعي الوكيل كبديل للقدرات البشرية، بل كشريك قوي في تعزيزها.
مع قيام المؤسسات بدمج الذكاء الاصطناعي القائم على الوكلاء بشكل أعمق في سير العمل، يجب على القادة فهم وتطبيق هذا التقسيم للمسؤولية. يمكن للذكاء الاصطناعي أن ينفذ الأمور، ولكن لا يزال يتعين على البشر تحديد الأهداف، ووضع الحدود، والأهم من ذلك، أن يظلوا مسؤولين.
بناء لوحة تحكم للثقة
إن إمكانية ملاحظة الأعمال هي في الأساس ما يجعل الشراكة بين الإنسان والذكاء الاصطناعي مستدامة، مما يوفر إمكانية التتبع والضمان في الواجهة بين الإنسان والذكاء الاصطناعي.
ومع ازدياد استقلالية الأنظمة الوكيلة وترابطها، يزداد تعقيدها أيضًا. يمكن لخطأ بسيط في أحد عناصر النموذج – الهلوسة أو المطالبة الخاطئة – أن يتكرر بسرعة التطبيقات والبيئات.
مع استمرار أعداد كبيرة من الفرق في مراجعة تدفقات اتصالات وكيل الذكاء الاصطناعي يدويًا، يكشف هذا عن فجوة خطيرة في الأتمتة في الوقت الفعلي والمدركة للسياق.
وبدون الرؤية الشاملة، تضطر المنظمات إلى تبني موقف رد الفعل – تشخيص المشاكل فقط بعد ظهور المخاطر. إن مجرد تسجيل الأحداث أو الإبلاغ عن الحالات الشاذة بعد وقوعها لم يعد كافيا.
تحتاج المنظمات اليوم إلى أنظمة يمكنها اكتشاف الهلوسة والتنبؤ بالمزيد من التأثيرات في الوقت الفعلي قبل أن تصبح مشاكل كبيرة. في النظم الإيكولوجية المتعددة النماذج والمتعددة الوكلاء المعقدة بشكل متزايد، فإن إمكانية المراقبة هي الأساس للعمليات المستقلة القابلة للتطوير والجديرة بالثقة.
من الإصدار التجريبي إلى الإنتاج: النطاق الهندسي من خلال الثقة
للانتقال إلى ما هو أبعد من المطهر التجريبي، يجب على المؤسسات بناء بنية تحتية للثقة تمكن الذكاء الاصطناعي القائم على الوكيل من العمل بشكل آمن على نطاق واسع. الثقة لا يمكن افتراضها ولا يمكن تجديدها. وبدلاً من ذلك، ينبغي تصميمها كأنظمة منذ البداية، مما يضمن إمكانية المراقبة القوية.
لن يتم تحديد مستقبل الذكاء الاصطناعي الوكيل من خلال عدد التجارب، ولكن من خلال مدى فعالية المؤسسات في تشغيل ما تقوم بإنشائه. عندما يتم بناء الثقة في النظام، فإن البرامج التجريبية لا تقف ساكنة، ولكنها تنمو وتولد قيمة تجارية دائمة.
تقديم أداة الذكاء الاصطناعي النهائية.
تم إنشاء المقالة كجزء من توقعات TechRadar بروتعرض قناتنا أفضل وألمع العقول في صناعة التكنولوجيا اليوم.
الآراء الواردة هنا هي آراء المؤلف وليست بالضرورة آراء TechRadarPro أو Future plc. إذا كنت مهتمًا بالتعاون، يمكنك العثور على مزيد من المعلومات هنا: https://www.techradar.com/pro/perspectives-how-to-submit
