على مدى السنوات العشرين الماضية، كان الدين الفني يعني بنية قديمة، وتعليمات برمجية فوضوية، ووثائق سيئة الصيانة. ولم يعد هذا التعريف كافيا في عصر الذكاء الاصطناعي، حيث أصبحت أنماط الفشل أكثر دقة وغير خطية في كثير من الأحيان. تقدم أنظمة الذكاء الاصطناعي طبقات جديدة من الديون التقنية التي تعتمد على تلميحات البيانات، والنماذج، والتبعيات، مما يجعل هذه الطبقات أقل وضوحا، وأكثر صعوبة في القياس، وغالبا ما تكون أكثر خطورة من الديون التقليدية.
أزمة مخفية على مرأى من الجميع
لقد تم توثيق مدى تعقيد أنظمة الذكاء الاصطناعي والإخفاقات المرتبطة بها بشكل جيد. أظهرت دراسة أجراها معهد ماساتشوستس للتكنولوجيا في عام 2025 ذلك 95% من مشاريع الذكاء الاصطناعي تفشل لتحقيق الإنتاج أو تقديم القيمة. وجدت دراسة مماثلة أجرتها شركة S&P Global Market Intelligence ذلك لقد تخلت 42% من الشركات عن مبادرات الذكاء الاصطناعي المتعددة في عام 2025 – زيادة حادة من 17٪ في العام السابق. تم تقديم أسباب مختلفة لهذه الإخفاقات، لكن معظمها يشير إلى أنظمة سيئة التصميم والتنفيذ وتصعب إدارتها ولديها نقاط فشل متعددة يصعب مراقبتها، مما يؤدي إلى التراكم السريع لديون الذكاء الاصطناعي.
تم توطين الديون التقنية التقليدية في قاعدة التعليمات البرمجية وكان من السهل عادةً إعادة إنتاج الأخطاء. ونتيجة لذلك، يمكن التعرف على الأخطاء بسهولة أثناء الاختبار وإصلاحها عن طريق تغيير بنية قاعدة التعليمات البرمجية. ومع ذلك، فإن ديون الذكاء الاصطناعي موزعة بشكل أكبر بكثير وتتجلى في المطالبات والنماذج وخطوط البيانات وجميع البنية التحتية المرتبطة بها. كما أنها أكثر متقطعة: نظرًا للطبيعة الاحتمالية للذكاء الاصطناعي، لا تستجيب الأنظمة دائمًا بنفس الطريقة، مما يؤدي إلى فشل عرضي. وهذا يزيد من صعوبة تحديد المخاطر أثناء الاختبار، ويخلق الحاجة إلى مزيد من المراقبة المستمرة حتى بعد التنفيذ لمنع الانحراف التدريجي وتدهور الأداء.
أشكال جديدة من ديون الذكاء الاصطناعي
تتجلى ديون الذكاء الاصطناعي عادة في أربعة أشكال جديدة، ولكل منها مجموعة المخاطر الخاصة به.
الديون الفورية هو الأكثر وضوحا منهم. يمكن أن يتضمن الإصدار الحديث من “كود السباغيتي” إصلاحات تلميحات غير موثقة، وتلميحات “الإصلاح السريع” المتراكمة التي تؤدي إلى عدم الاتساق، والتحكم في إصدار التلميح المهمل، و”حشو التلميحات” (حشو البيانات الدخيلة أو السياق مباشرة في تلميح الذكاء الاصطناعي). يؤدي كل هذا إلى عدم كتابة المطالبات وتعليمات برمجية غير مختبرة دون أي تحكم في الإصدار، مما يؤدي إلى زيادة الهشاشة والثغرات الأمنية.
نموذج الديون المعتمدة وهو شكل آخر شائع بشكل متزايد من ديون الذكاء الاصطناعي. تعتمد معظم المؤسسات الآن على مجموعة من النماذج الخارجية التي طورها كبار موفري النماذج الأساسية؛ يتم إنشاء التطبيقات والوكلاء بناءً على استدعاءات واجهة برمجة التطبيقات (API) لهذه النماذج. ونتيجة لذلك، يعتمد منطق التطبيق الآن على نماذج خارجية للنظام الأساسي ولا يمكن التحكم فيها بشكل واضح. مع تحديث النماذج، يختلف الأداء ويتم فقدان إمكانية التكرار – قد لا تعمل المطالبات التي تم ضبطها لنموذج واحد أو يكون أداؤها سيئًا عند التغيير إلى نموذج آخر، سواء أكان ذلك تحديثًا من نفس البائع أو من بائع مختلف.
تستخدم معظم تطبيقات الذكاء الاصطناعي للمؤسسات الحديثة الجيل المدعوم بالاسترجاع (RAG)، الذي يسترد سياقًا إضافيًا من مستودعات بيانات المؤسسة. استرداد الديون هو نتيجة لتخزين البيانات غير المتقنة والمستندات المكررة والمعلومات القديمة في هذه المستودعات. يؤدي هذا إلى قيام الذكاء الاصطناعي بإرجاع الإجابات الصحيحة تقنيًا التي عفا عليها الزمن، مما يتسبب في فشل المصب. على عكس الهلوسة، من الصعب اكتشافها لأنها كانت طبيعية، ربما حتى وقت قريب، وبالتالي تبدو طبيعية لأي مختبر.
تصنيف الديون يعكس عدم وجود توحيد في اختبار ومراقبة نماذج وتطبيقات الذكاء الاصطناعي. على الرغم من وجود معايير الذكاء الاصطناعي، إلا أنها تميل إلى التركيز على اختبارات ضيقة وتعكس النتائج في وقت محدد. تفتقر معظم المؤسسات إلى معايير اختبار متسقة، ومجموعات البيانات الرئيسية، ومراقبة التنفيذ في الوقت الفعلي؛ لا يوجد ما يعادل التكامل المستمر/التسليم المستمر (CI/CD) للمطالبات حتى الآن. ونتيجة لذلك، لا يتمتع مدراء تكنولوجيا المعلومات ومديرو التكنولوجيا برؤية واضحة لأداء النموذج ولا يمكنهم تتبع تحسينات النموذج أو تدهوره.
كل هذا بالإضافة إلى الأشكال التقليدية للديون التقنية التي لا تزال تظهر في الأدوات والأنظمة التي تتفاعل معها التطبيقات ووكلاء الذكاء الاصطناعي أو تقرأها أو تكتبها. يؤدي النمو السريع في استخدام التعليمات البرمجية التي ينشئها الذكاء الاصطناعي (غالبًا ما يتم نشرها دون اختبار مناسب) إلى تفاقم التناقضات في قواعد التعليمات البرمجية التقليدية وضعف قابلية الصيانة.
تتحد الأشكال الجديدة من ديون الذكاء الاصطناعي مع الأشكال السابقة من الديون التقنية، وتتراكم بسرعة وتخلق مخاطر واسعة النطاق يمكن أن تتسبب في فشل عمليات تنفيذ المؤسسة بأكملها بشكل كارثي. وتصبح معالجة هذه المخاطر أكثر صعوبة بسبب الطبيعة الموزعة لملكية الذكاء الاصطناعي – فمعظم الأنظمة تشمل فرق الهندسة والمنتجات والبيانات والأعمال، مما يؤدي إلى مساءلة غير واضحة عند اكتشاف خطأ.
ونتيجة لذلك، يتجلى هذا الخطر في شكل ارتفاع التكاليف الحسابية، ونتائج الذكاء الاصطناعي غير الدقيقة، وعدد متزايد من الاستثناءات التي يتعين على البشر التعامل معها، مما يؤدي غالبًا إلى توقف المشروع وفشله بسبب عدم وضوح تاريخ عائد الاستثمار وانعدام ثقة المستخدم.
كيف يمكن للشركات منع ديون الذكاء الاصطناعي
ولا يمكن حل ديون الذكاء الاصطناعي من خلال نماذج “أفضل”، حيث تظل معدلات الفشل مرتفعة على الرغم من أن النماذج دقيقة للغاية بالفعل. يتطلب حل ديون الذكاء الاصطناعي تصميمًا أفضل للنظام وتكامله وتحكمه وتغييرات في الثقافة التنظيمية.
أولاً، فكر في تلميحات الأدوات باعتبارها رمزًا. يتضمن ذلك التحكم الدقيق في الإصدار والتوثيق والاختبار الصارم قبل النشر وبعده لجميع التكوينات السريعة الممكنة. أفضل الممارسات في عالم البرمجة التقليدية – مثل استخدام مجموعات أصغر من التلميحات بدلاً من الجدران الكبيرة المليئة بالتلميحات، أو الحد من استخدام المعلمات المشفرة – يمكن أن تساعد أيضًا في تقليل ديون الذكاء الاصطناعي.
ثانيًا، يجب أن يكون التقييم مدمجًا في مجموعة البنية التحتية للذكاء الاصطناعي بأكملها. وينبغي وضع إجراءات التقييم المستمر ويجب أن تعكس مجموعة واسعة من المؤشرات التي تقيس المؤشرات الفنية والتجارية. بالإضافة إلى ذلك، ينبغي دمج أنظمة مراقبة الذكاء الاصطناعي لمراقبة جودة المخرجات، ومعدلات الفشل، وانحراف النماذج، وانحراف البيانات.
ثالثًا، يجب أن تتضمن جميع مخرجات الذكاء الاصطناعي إمكانية الشرح بشكل افتراضي للتعويض عن التكرار المحدود. يجب أن يكون من السهل تتبع أصل البيانات والنماذج المستخدمة والخطوات التي تم تنفيذها لتمكين تدقيق النتائج وتصحيحها في حالة حدوث أي أخطاء في النظام.
ويتطلب ذلك برامج واضحة لخفض ديون الذكاء الاصطناعي والميزانيات المرتبطة بها، على غرار الموجات السابقة من الاستثمارات الأمنية أو استثمارات التحديث السحابي. ويجب أن يتم تنفيذها على مستوى CXO من قبل القادة الرئيسيين لمنع إعادة العمل المكلفة لاحقًا.
الخلاصة: غرزة في الوقت المحدد
لا تقتصر تطبيقات الذكاء الاصطناعي للمؤسسات على التعليمات البرمجية الثابتة فحسب؛ إنها أنظمة حية تتفاعل مع حزمة المؤسسة بأكملها. ونتيجة لذلك، فإن التحدي الرئيسي في مؤسسة الوكيل لن يتمثل في بناء أو نشر أنظمة ذكية، ولكن الحفاظ على تلك الأنظمة لضمان الموثوقية المستمرة أثناء التشغيل في العالم الحقيقي.
من المرجح أن تقوم الشركات التي تسعى جاهدة إلى تحديد ديون الذكاء الاصطناعي وتقليلها حسب التصميم، بإنشاء منصات مستدامة للذكاء الاصطناعي توفر مكاسب إنتاجية كبيرة وطويلة الأجل عبر المؤسسة.
فيكرام هو مدير رئيسي في شركة Cota Capital، حيث يستثمر في شركات تكنولوجيا المؤسسات في مرحلة مبكرة وعميقة.
مرحبًا بك في مجتمع VentureBeat!
في برنامج نشر الضيوف الخاص بنا، يشارك خبراء التكنولوجيا الأفكار ويقدمون معلومات محايدة ومتعمقة حول الذكاء الاصطناعي والبنية التحتية للبيانات والأمن السيبراني وغيرها من التقنيات المتطورة التي تشكل مستقبل المؤسسات.
اقرأ المزيد من برنامج نشر الضيوف لدينا – وتحقق من موقعنا المبادئ التوجيهية إذا كنت مهتمًا بالمساهمة في مقالتك الخاصة!
