ملاحظة المحرر: بيل هيلف هو الرئيس التنفيذي السابق لمجموعة Vulcan/Vail Group، ورئيس مجلس الإدارة الحالي لـ AI2 وAmerican Prairie، ومؤلف رواية الخيال العلمي الجديدة “The Disruption” التي تستكشف موضوعات الذكاء الاصطناعي والنظم البيئية الطبيعية. تحدث عن الكتاب على بودكاست GeekWire، وشرح بالتفصيل الموضوعات الواردة في هذا المقال المصاحب.
نحن نبني الذكاء الاصطناعي على نطاق حضاري، بينما لا نزال نتحدث عنه كما لو كان إصدارًا برمجيًا.
ما النموذج الذي يتصدر في أي معيار؟ أي روبوت دردشة يبدو أكثر إنسانية؟ هذه الأسئلة مهمة، لكنها في المستوى الخطأ. لم تعد أنظمة الذكاء الاصطناعي تجيب على الأسئلة فحسب. إنهم يتوسطون في التعيينات والتشخيصات والخدمات اللوجستية والمالية وزيادة أجزاء عملية صنع القرار العام. لم نعد نقوم بشحن المنتجات. نحن نعيد تشكيل البيئة.
وعلى هذا النطاق، يكون الذكاء الاصطناعي مترابطًا إلى حد كبير. هناك أوضاع الفشل المرتبطة به. سلوك غير رسمي. الأنواع الغازية. نقاط التحول.
إن معاملة البيئة كمنتج هو خطأ في الفئة، وقد أصبح الأمر معقدًا بالفعل.
لقد أمضيت ثلاثة عقود في بناء الأنظمة التي كانت محور هذه المحادثة، بدءًا من الحوسبة العلمية في شركة IBM وحتى أنظمة Azure المبكرة وأنظمة المؤسسات واسعة النطاق في HP. كان نموذج العمل حتميًا: تحديد النظام، وبناءه، وضبطه، والتحكم فيه. إذا انكسر شيء ما، قم بالتشخيص والتصحيح. هذا النموذج يعمل بشكل جيد حتى لا يعمل.
وعلى نطاق كاف، تتوقف الأنظمة الموزعة عن التصرف مثل الآلات وتبدأ في التصرف مثل النظم البيئية. إنهم يتكيفون. أنها تدور حول الفشل. إنهم يطورون تبعيات لم يصممها أحد وتفاعلات لا يفهمها أحد بشكل كامل. لا يزال بإمكانك تصميمها وهندستها. ولكن بمجرد أن تصبح مدمجة في كل مكان، ومتصلة بكل شيء، ومخصصة في طبقات عديدة للغاية بحيث لا يمكن لأي شخص أن يلاحظها، فإنها لم تعد مجرد أدوات.
ويصبح المنحنى أكثر حدة. أحدث ماكينزي حالة منظمة العفو الدولية تقول أن 88% من المؤسسات التي شملتها الدراسة تستخدم الآن الذكاء الاصطناعي في وظيفة عمل واحدة على الأقل، مقارنة بـ 55% قبل عامين. جارتنر من المتوقع أن يتجاوز الإنفاق العالمي على البرمجيات 1.4 تريليون دولار في عام 2026. وفي تعليقات المستثمرين التي تم توزيعها هذا العام، توماس برافو والحجة هي أن الذكاء الاصطناعي الوكيل يمكن أن يخلق فرصة إضافية لإيرادات التطبيقات تبلغ حوالي 3 تريليون دولار عن طريق تحويل الإنفاق على العمالة إلى إنفاق على البرامج. هذه ليست ترقية الميزة. إنه النظام الذي يعيد تركيب نفسه في منتصف الرحلة، بشكل أسرع مما تستطيع معظم الشركات التحكم به أو تدقيقه أو حتى تصنيف ما أنشأته بالفعل.
ولم يأت هذا الإدراك من التكنولوجيا وحدها. وهذا جاء أيضًا من الحفظ.
لدى علم البيئة اسم لما يحدث عندما تمد طبقة حاملة بسرعة كبيرة: الشلال الغذائي. كادت تجارة الفراء الألوشيانية أن تقضي على ثعالب البحر في القرن الثامن عشر. القنادس تأكل القنافذ. قنافذ تأكل عشب البحر. قم بإزالة القنادس، ولن تحصل على ثقب بحجم القندس. تحصل على انفجار قنفذ البحر، وانهيار غابات عشب البحر، وفقدان كل مشتل للأسماك كان عشب البحر يحافظ عليه بهدوء.
هذا هو النمط الذي يجب أن نراه في البنية التحتية المعتمدة على الذكاء الاصطناعي. من المرجح أن يكون الذكاء الاصطناعي أفضل من موظفيك في الفحص والتسجيل والتنبؤ. المشكلة الحقيقية هي السرعة. نحن نستبدل الأشخاص الذين كانوا يقدمون القرارات والتصحيحات والقيود، وهم النسيج الضام الذي لم يظهر أبدًا في مخطط سير العمل. أصوات في مناطق رمادية، قرارات غير قابلة للحساب. قم بإزالة هذه الطبقة بأسرع ما يمكن للمؤسسة من معرفة ما تحتفظ به، وستحصل على نفس السلسلة.
إذا كنا جادين في بناء بنية تحتية مستدامة للذكاء الاصطناعي، فإن هذه الأنماط تستحق الدراسة، وبعض الدروس غير مريحة.
لقد تم المبالغة في تقدير الكفاءة. في التكنولوجيا، كما هو الحال في البيئة، تصبح الأنظمة المُحسَّنة بشكل مفرط هشة. مسألة الركود والتكرار. Firebreak هو هكذا، وكذلك الحكم الذاتي المحلي.
في يوليو 2024، أدى تحديث تكوين CrowdStrike إلى تعطل 8.5 مليون جهاز حول العالم. شركات الطيران، المستشفيات، 911 مركزا، البنوك. خسارة 5.4 مليار دولار لقد قاموا بإرجاع التحديث السيئ خلال 78 دقيقة. استغرق التعافي عدة أيام. لم تتأثر شركة طيران ساوث ويست إلى حد كبير. إنه ببساطة لم يكن يشغل برنامج CrowdStrike. في بعض الأحيان يصبح غياب التبعيات هو سبب الحريق. إذا كانت كل وظيفة مهمة في مجموعتك تعتمد على نموذج واحد، أو مزود واحد، أو مسار تدريب واحد، فأنت لم تصنع معجزة ذكية. لقد قمت بإنشاء انقطاع في المستقبل.
النظم البيئية لا تفشل ببساطة عن طريق الشلالات. كما أنها تفشل عن طريق التراكم. يدخل الذكاء الاصطناعي في مسارات العمل بنفس الطريقة التي تدخل بها الأنواع الغازية إلى النظم البيئية: من خلال ناقلات منخفضة الرؤية، عملية نشر واحدة في كل مرة. مساعد طيار هنا، وطبقة ملخصة هناك، ومجدول مستقل في مكان ما لا يقوم بأي تتبع. كل نشر هو دفاعي في حد ذاته. التأثير التراكمي هو شيء لم يختره أحد. إن المراجعات والاحتكاكات التي كانت في السابق تحافظ على صدق العمليات تم إنشاؤها من أجل الحركة البشرية. لم يأخذ أحد مكانه مع سرعة الآلة.
بمجرد أن يبدأ النموذج في تشكيل البيئة التي تشكله بعد ذلك، فإنه لا يعود كما كان في المختبر. وتفعل أنظمة الذكاء الاصطناعي نفس الشيء عند نشرها في الأسواق ووسائل الإعلام والمؤسسات والسلوك البشري. لا يمكنك تنظيم النظام البيئي من خلال مراقبة الكائنات الفردية. أنت تنظم الشروط التي تحدد ما إذا كان النظام بأكمله يتعافى أو ينهار. هذه المواقف تنطوي على إمكانية الملاحظة.
الأنظمة التي لا يمكن ملاحظتها أو دراستها أو تقييمها بشكل مستقل هي أنظمة لا يمكن لأحد أن يفهمها أو يتحكم فيها بشكل جيد. إن الانفتاح هنا لا يهم كشعار، بل كشرط للتحليل والثقة المكتسبة. وينطبق نفس المنطق على التسامح مع الخطأ. قبل السماح للنموذج داخل الأنظمة الحيوية، يجب على مشغله إثبات أن البيئة بأكملها يمكن أن تعمل بدونه. وهذا يعني اختبار التآكل الإلزامي، تمامًا كما نقوم باختبار الضغط على البنوك والجسور.
لن يضطر البناة إلى انتظار المنظمين. إذا كانت طبقة الذكاء الاصطناعي تدخل سير عمل الإنتاج، فسيحتاج المنشئون إلى معرفة ما يحدث عندما يكون النموذج خاطئًا، أو يكون البائع معطلاً، أو يتغير السلوك بعد النشر. إذا كانت الإجابة الصادقة هي “لا نعرف”، فإن الطبقة ليست جاهزة لتحمل الحمل. وينطبق هذا على أنظمة فرز المستشفيات وروبوتات دعم العملاء. وينطبق هذا بشكل خاص على الوكلاء ذوي النطاق المفتوح: البرامج التي يمكنها التخطيط واستدعاء الأدوات وتنفيذ المهام داخل بيئة لا يتحكم فيها أحد بشكل كامل. بالنسبة لهذه الأنظمة، تعد جودة النموذج هي السؤال الأسهل. فالقاسي هو الذي يحاسب عندما يفشل.
يمكن للبنيات متعددة الوكلاء ونهج المجموعات أن تحسن المرونة، ولكن فقط عندما يكون عدم التجانس حقيقيًا. قد يؤدي وجود ثلاثة عملاء يتبعون نفس النموذج الأساسي إلى تحسين المنطق، لكنهم ليسوا ثلاثة إجراءات أمنية مستقلة. إنهم تبعية يرتدون ثلاث قبعات.
هناك نتيجة استراتيجية أوسع هنا. وفي النظم البيئية المستقرة، تزيد الأنواع السائدة أرباحها تدريجيا. قم بتقصير دورة الاضطراب وسيفقد العديد من تلك الفوائد قبل أن تصل إلى مرحلة النضج. وهذا ما يحدث الآن مع الخنادق التجارية. عندما يصبح التعطيل رخيصًا بشكل أساسي، فإن السؤال الفائز لم يعد هو ما تقوم بإنشائه، بل يصبح ما يبقى حتى عندما لا يكون هناك شيء حولك. في عمليات النشر في العالم الحقيقي، يخسر النموذج “الأفضل” أمام النظام الأكثر تكيفًا.
التعافي لا يقل أهمية عن الوقاية. في أعمال الترميم التي أقوم بها، لا يكون السؤال أبدًا هو كيفية إيقاف التغيير. الاضطرابات أمر لا مفر منه. والسؤال هو ما الذي سينجو، وما مدى سرعة تعافي النظام، وما هي القدرات الكامنة التي تبقى بعد الصدمة. وينبغي لنا أن نطرح نفس السؤال على البنية التحتية المعتمدة على الذكاء الاصطناعي. ليس فقط “هل هي آمنة؟” لا بل “كيف يفشل؟ من يستطيع القضاء عليه؟ إلى أي مدى ينتشر الفشل؟ ما الذي ينمو بعد الفشل؟”
في تجربتي، ما ينهار هو تصور السيطرة. الأنظمة الحقيقية لا تنهار بشكل نظيف ولا تتعافى بشكل نظيف. بعض الأجزاء تفشل. قم ببعض التخصيص. البعض يتحول إلى أشياء لم يقصدها أحد.
كانت الطبيعة تقود الاستشعار الموزع والاستجابة المحلية والتعافي لمئات الملايين من السنين. إنها تقوم بتشغيل نوع الشبكات التي نحاول باستمرار اختراعها. ليس لأن الغابات واعية أو لأن الكوكب عبارة عن ذكاء اصطناعي، ولكن لأن المشاكل الهندسية متشابهة من الناحية الهيكلية: كيف يمكن لنظام بدون تحكم مركزي أن يحافظ على التماسك، ويتكيف مع الضرر، ويستمر طوال الوقت؟
لم يعد السؤال يقتصر على ما يمكن أن تفعله أنظمة الذكاء الاصطناعي. إنه نوع العالم الذي يخلقونه من حولهم، ونوع العالم الذي ورثوه منا، وما إذا كنا أذكياء بما يكفي لإنشاء أنظمة لا يزال بإمكاننا تشغيلها.
إذا أخذنا الأمر على محمل الجد، فإن بعض المبادئ تتبع. تصميم للتنوع قبل الكفاءة. بناء للتعافي قبل الأداء. أبقِ البشر على اطلاع، ليس كإجراء للامتثال ولكن كمديرين للنظام، ومصدر القرارات، وذاكرة سبب وجوده. الإصرار على الانفتاح على كافة المستويات، كشرط أساسي للثقة الهائلة. لا شيء من هذا يبطئ الذكاء الاصطناعي. وهذا ما يجعل الذكاء الاصطناعي يعمل حتى في الأيام التي يفشل فيها شيء ما.
يمكنك إيقاف تشغيل الجهاز.
عليك أن تعيش ضمن النظام البيئي.
