الذكاء الاصطناعي لا يولد الأفكار فقط. اتخاذ الإجراءات. قم بتحديث السجلات وإطلاق الحملات وتغيير سلوك الأنظمة في الوقت الفعلي. يقدم هذا التغيير ملف تعريف مخاطر مختلفًا بشكل أساسي للمؤسسات.
مع تطور الذكاء الاصطناعي من مساعد الطيارين إلى أنظمة الوكيل المستقلة، تدخل الشركات مرحلة جديدة حيث ترتبط الفرص والمخاطر ارتباطًا وثيقًا.
CTO والمؤسس المشارك لشركة Amperity.
لم تعد هذه الأنظمة تقتصر على الإجابة على الأسئلة وتوليد الأفكار. إنهم يتخذون إجراءات بشكل متزايد من خلال تعديل منطق التسعير، وتعديل شرائح العملاء، وإطلاق الحملات، وتحديث السجلات في الأنظمة الأساسية.
المشكلة الحقيقية هي الانفصال المتزايد بين سرعة الذكاء الاصطناعي والمستوى الفعلي للتحكم الذي تتمتع به الشركات.
تتبنى المؤسسات بسرعة الذكاء الاصطناعي القائم على الوكلاء، لكن الإدارة لا تواكب ذلك. معظم الفرق على نطاق واسع الأتمتة أسرع من التحكم في القياس.
حتمية الحكم
مع تسارع اعتماد الذكاء الاصطناعي، تواجه المؤسسات التحدي المتمثل في تكييف الحوكمة مع الأتمتة السريعة. تسارع الفرق إلى تطبيق الذكاء الاصطناعي في سير العمل الأساسي لإطلاق العنان للكفاءة. يجب أن تتصرف الإدارة بنفس السرعة وإلا فسوف تنهار.
تقوم الفرق التي تقوم بذلك بشكل جيد ببناء الحوكمة في أنظمة الذكاء الاصطناعي منذ البداية، بدلاً من وضعها في طبقات لاحقًا. وهذا يعني تحديد حواجز حماية واضحة في وقت مبكر، بما في ذلك البيانات التي يمكن لأنظمة الذكاء الاصطناعي الوصول إليها، والإجراءات التي يمكنها اتخاذها، وكيفية مراقبة تلك الإجراءات والتحكم فيها.
إذا تمت إضافة الإدارة بعد حدوثها، فلن تكون فعالة في الاستخدام في العالم الحقيقي.
عندما يتم بناء الضوابط، يمكن للأنظمة أن تتحرك بسرعة ضمن حدود محددة بوضوح، مما يؤدي إلى العطاء لدى الفرق الثقة في أن الأتمتة ستعمل على النحو المنشود. ويصبح هذا أكثر أهمية مع انتقال الذكاء الاصطناعي من التوصية إلى التنفيذ، ومع عمل أنظمة الوكلاء بشكل أكثر استقلالية وتتطلب مستويات جديدة من الرؤية.
إذا قام الذكاء الاصطناعي بإجراء تغييرات على أنظمة المؤسسة، فيجب أن تكون المؤسسات قادرة على رؤية ما تفعله بالضبط، ولماذا تفعل ذلك، وما هو التأثير الإضافي.
الإدارة مسؤولية مشتركة
واحدة من أكبر نقاط الفشل في إدارة الذكاء الاصطناعي هي الملكية. لا يمكن لأي فريق التعامل مع هذا بمفرده.
تتطلب الإدارة الفعالة تنسيق البيانات والهندسة و قيادة الأعمال. تعتمد أنظمة الذكاء الاصطناعي على بيئات البيانات الأساسية والبنية التحتية التشغيلية وفرق الأداء. وعندما تعمل هذه الوظائف بشكل مستقل، تصبح الإدارة مجزأة وبطيئة، وتزداد المخاطر.
ومن الناحية العملية، تبدأ الإدارة بالبيانات. إن المساءلة الواضحة عن جودة البيانات والهوية وأذونات الوصول هي أساس الذكاء الاصطناعي المسؤول. من هذه النقطة فصاعدًا، تحتاج المنظمات إلى هياكل متعددة الوظائف لتحديد السياسات ومراقبة السلوك وضمان المساءلة. هذا ليس جهدا لمرة واحدة. يجب أن تتطور الإدارة باستمرار مع تغير وتطور أنظمة الذكاء الاصطناعي.
درابزين يتحرك مع المستخدم
إحدى أكثر الطرق فعالية لإدارة هذه المخاطر هي التأكد من أن أنظمة الذكاء الاصطناعي ترث نفس الأذونات التي يتمتع بها البشر الذين يستخدمونها. تضمن هذه القاعدة، والتي تسمى غالبًا نسخ الأذونات، عدم قدرة الذكاء الاصطناعي على اتخاذ إجراءات غير مصرح للمستخدم بالقيام بها. إذا لم يكن لدى المستخدم القدرة على تعديل النظام يدويًا، فلن يتمكن الذكاء الاصطناعي من القيام بذلك نيابةً عنه.
الإشراف البشري حيث يهم
ومع ازدياد استقلالية أنظمة الذكاء الاصطناعي، أصبح دور الإشراف البشري أكثر تركيزا، ولكنه لا يقل أهمية. تقدم الأنظمة الأكثر فعالية نقاط تفتيش في اللحظات الحرجة: قبل التنفيذ، يجب أن تقدم أنظمة الذكاء الاصطناعي خطة واضحة تحدد الإجراءات التي سيتم اتخاذها. يتيح ذلك للمستخدمين التحقق من صحة النية ومراجعة المنطق وتحسين المدخلات قبل الالتزام.
أثناء التنفيذ وبعده، تعد الرؤية أمرًا بالغ الأهمية. يجب أن يكون المستخدمون قادرين على مراجعة النتائج، وفهم كيفية اتخاذ القرارات، ومتابعة تسلسل الإجراءات المتخذة. وهذا المستوى من الشفافية يتيح المساءلة.
العودة إلى الوراء هو نفس القدر من الأهمية. يجب أن تكون المؤسسات التي تجرب الذكاء الاصطناعي المعتمد على الوكيل قادرة على التراجع عن التغييرات بسرعة وسهولة. سواء كنت تتراجع عن إجراء واحد أو تعيد تعيين تسلسل كامل، فإن القدرة على عكس النتائج تقلل من المخاطر وتشجع على الاعتماد المسؤول.
لا ينبغي لأنظمة الذكاء الاصطناعي أن تكون سريعة فحسب. إنهم بحاجة إلى التباطؤ عندما يكون الأمر مهمًا، وإظهار عملهم وتسهيل تصحيح المسار.
بناء الابتكار مع التحكم
يمثل تطوير الذكاء الاصطناعي الوكيل تغييرًا أساسيًا في طريقة إنجاز العمل في المؤسسات. فهو يوفر إمكانية تحقيق زيادات كبيرة في الأداء والسرعة وقابلية التوسع. ومع ذلك، لن تتحقق هذه الفوائد إلا إذا تمكنت المؤسسات من الثقة في الأنظمة التي تنفذها.
الإدارة ليست عائقا أمام الابتكار. وهذا ما يجعلها متينة. إن المؤسسات التي ستنجح هي تلك التي تنفذ الضوابط في أنظمتها منذ البداية، وتطابق قدرات الذكاء الاصطناعي مع القوة البشرية، وتحافظ على الرؤية في كل إجراء يتم اتخاذه.
يمكن للذكاء الاصطناعي أن يتحرك بسرعة بالفعل. السؤال الحقيقي هو ما إذا كانت أنظمتك قادرة على التحكم في ما يحدث ومتى يحدث.
نقدم أفضل منصات المراسلة للشركات.
تم إنشاء المقالة كجزء من توقعات TechRadar بروتعرض قناتنا أفضل وألمع العقول في صناعة التكنولوجيا اليوم.
الآراء الواردة هنا هي آراء المؤلف وليست بالضرورة آراء TechRadarPro أو Future plc. إذا كنت مهتمًا بالتعاون، يمكنك العثور على مزيد من المعلومات هنا: https://www.techradar.com/pro/perspectives-how-to-submit
