لم يعد فيلم The Terminator مجرد خيال، ولكن هل يمكننا حقًا أن نثق في جنود الروبوت لخوض حروبنا نيابةً عنا؟
نحن نتحدث إلى الشمس قناة المستقبل التقنية مع شون كيتشكشف أستاذ متميز عما إذا كان من الممكن الوثوق بالذكاء الاصطناعي العسكري فرقعة القرارات المتعلقة ساحة المعركة – ولو كان من الأفضل أن نترك القتال جيش الروبوتات بدلا من ذلك. (شاهد الحلقة كاملة على اليوتيوب).
البروفيسور كينيث باين، خبير الإستراتيجية في جامعة كينجز كوليدج لندن ومؤلف الكتاب أنا، واربوتأمضى 15 عامًا في البحث عن “العقول الاصطناعية” لحروب المستقبل.
حكمه؟ لقد وصل عصر “Terminator”، وقد يغير وجه الحرب إلى الأبد.
روبوت الدردشة بمسدس
يستخدم معظمنا الذكاء الاصطناعي لالتقاط صور مضحكة، أو الإجابة على الأسئلة المربكة، أو مساعدة الأطفال في واجباتهم المدرسية.
لكن القوى العظمى في العالم تتطلع إلى شيء أكثر فتكا بكثير – تخيل أن يتم توصيل دماغ روبوت الدردشة بالروبوت البشري ثم تسليمه مسدسا.
سيناريو DOOMSD-AI
كيف يمكن لأداة ذكاء اصطناعي جديدة ومخيفة أن تؤدي إلى تعطيل الرحلات الجوية العالمية وانهيار البنوك؟
“إلغاء التنظيف”
شركة ذكاء اصطناعي تكشف سبب قيام روبوت الدردشة بحجب إنسان بسبب “فضيحة”
قد يعني القتال بين الروبوتات والروبوتات إنقاذ حياة البشر، ولكن هذا هو الحال علوم خيالي أخيرا أصبح حقيقة؟
يحذر البروفيسور باين قائلاً: “إننا نتحدث نوعًا ما عن فيلم Terminator في بعض جوانبه”.
“لقد رأيت مؤخرًا أنه تم نشر الروبوتات البشرية في مسرح العمليات الروسي الأوكراني. لقد بدأنا في دخول منطقة Terminator.”
لكن الأمر لا يتعلق فقط بالروبوتات التي تشبهنا. يتعلق الأمر بالآلات التي يمكنها التفكير بنفسها.
وتابع: “نحن جميعًا نعرف ChatGPT ويمكنك أن تتخيل تطبيق ChatGPT على هذه الروبوتات عندما يذهبون إلى المعركة”.
ويصف باين هذا بأنه “أساس” برامج الدردشة الآلية، حيث تتفاعل الآلة مع العالم المادي لتوفير “استدلال سياقي معقد” في خضم المعركة.
يقول الأستاذ: “لقد بدأ الأمر يبدو لي وكأنه فيلم Terminator”.
وفاة الجنرال؟
ووفقاً للبروفيسور باين، فإن القوات الموجودة على الأرض ليست وحدها التي يجب أن تراقب من فوق أكتافها.
في بعض الحالات، يمكن استبدال “النحاس العلوي” الموجود على الطرف الخلفي برقائق السيليكون.
في الأشهر الأخيرة، ورد أن روبوتات الدردشة القائمة على الذكاء الاصطناعي، مثل نظام “كلود” التابع لشركة Anthropic، قد تم استخدامها للتخطيط لعمليات أمريكية ضد إيران وفنزويلا.
وهذا يعني أن القوات المسلحة الحقيقية تبتعد عن البشر الذين يوجهون أفعالهم فقط إلى الذكاء الاصطناعي الذي يعمل بمثابة “أداة لدعم القرار”.
ولكن هل يستطيع الكمبيوتر أن يتفوق على جنرال ذي خبرة؟
يمكن لأجهزة الكمبيوتر بالفعل التغلب على البشر باستمرار شطرنج.
لكن البروفيسور باين يقول إن الحرب أشبه بلعبة بوكر عالية المخاطر لأنها تنطوي على “الصدفة والمعلومات غير المتماثلة”.
قال البروفيسور باين: “أعرف أشياء لا تعرفونها عما في يدي”.
“وأنا في الواقع أحب هذا التشبيه أكثر من لعبة الشطرنج. ولكن حتى الذكاء الاصطناعي الحديث يمكن أن يتفوق في الأداء على أفضل لاعبي البوكر.”
وتابع: “هناك عدة أسباب يجب توخي الحذر عند تقديمها.
“الأولى هي المسؤولية، وهي قضية أخلاقية، والأخرى هي أن الناس في الواقع يقومون بعمل أفضل قليلاً على الهامش.
“بعض مكونات الإستراتيجية، مثل التفكير في العقول الأخرى، تقود – البشر أفضل في هذا النوع من حسابات نظرية العقل حتى من أحدث برامج الدردشة الآلية.”
وأضاف: “لكن الفجوة تضيق طوال الوقت”.
لماذا الروبوتات؟
ووفقا للبروفيسور باين، فإننا ندخل في ديناميات “سباق التسلح”.
وقال “إذا كنت تعتقد أن عدوك سيستخدم هذه التقنيات… فمن مسؤوليتك أن تجرب ذلك بنفسك”.
وأشار أيضًا إلى أنه حتى لو كنت تريد أن يظل الناس مسيطرين دائمًا، فهناك “قوتان قويتان حقًا تعملان ضد ذلك”.
الأول، في رأيه، هو الحجم.
“يمكن لهذه التقنيات أن تطلق العنان لأعداد هائلة من الأنظمة الآلية المستقلة في ساحة المعركة – وهو ما يتجاوز بكثير ما يمكن أن يأمل الإنسان في السيطرة عليه.
“إن فكرة السرب… تعتمد على هذا النوع من النهج، الذي يتمثل في إرباك الخصم بعدد كبير من المنصات الفعالة التي تعمل بمفردها.”
والثاني هو السرعة.
“أنت تفكر في هذا خاصة في سياق الحرب السيبرانية، حيث يحدث كل شيء في غمضة عين – أسرع من غمضة عين.
“ويمكن توجيه هجومك السيبراني بشكل مستقل. حسنًا، فأنت بحاجة إلى استجابة سيبرانية مستقلة للتعامل معه.
“لذلك فأنت تعمل بسرعة هائلة ويجب أن تقرر ما إذا كنت تريد التصعيد ضد هجوم العدو أو الرد عليه بطريقة أسرع مما يأمل الإنسان في تحقيقه.”
معركة بلا دماء أم حرب لا نهاية لها؟
ومع ذلك، هناك جانب جيد: الروبوتات لا تتعب.
إنهم لا يشعرون بـ “ضباب الحرب”. الشيء الأكثر أهمية هو أنهم لا يغضبون.
يقول باين: “لقد كانت الفظائع جزءًا من الحروب التي يعود تاريخها إلى تاريخ البشرية”.
“(الروبوتات) لن تخاف. ولن تشعر بالغضب. ولن ترتكب فظائع في ساحة المعركة”.
ولكن هناك صيد كبير. فإذا أصبحت الحرب “غير دموية” بالنسبة للجانب الذي يمتلك أفضل التقنيات، فهل سيكون من السهل على الساسة أن يبدأوها؟
وإذا لم تصل التوابيت إلى الوطن والأعلام معلقة بها، فإن التكلفة السياسية للحرب تنخفض.
مشكلة “المدرسة”.
واحدة من أكبر المشاكل هي المسؤولية. إذا أخطأ الروبوت، فمن الذي ستقيده؟
ماذا يحدث إذا واجه جندي آلي طفلًا يحمل مسدسًا لعبة وجهاً لوجه؟
“إنه أمر لا جدال فيه. إنه يعني أن أجهزة الاستشعار لا تتعرف على أنه مسدس لعبة. إنه سوء تطبيق لسيادة القانون، الذي ينص على عدم مهاجمة المدنيين، وبالتأكيد لا تهاجم الأطفال”.
ويقول إن مثل هذه الأخطاء قد تعني انخفاض الرغبة في المخاطرة بين الجنود الآليين.
ومع ذلك، فإن هذا يمكن أن يؤدي إلى مشاكل يواجهها الناس أيضًا أثناء الحرب.
يعرض باين سيناريو مخيفًا: “يعرف زعيم العدو أنك قادم إليه باستخدام تكنولوجيا ذاتية متقدمة جدًا.
“حسنًا، سيعقد اجتماعًا في المدرسة، الأمر الذي سيجعل مهمة ضربه أكثر تعقيدًا بكثير مما قد يكون ممكنًا.
“هل ستفعل ذلك؟ إنها مسألة الرغبة في المخاطرة، أليس كذلك.”
قد يتردد القائد البشري. قد يرون الملعب ويتراجعون. ومع ذلك، فإن الذكاء الاصطناعي المبرمج لتقييم الهدف فوق كل شيء آخر يمكنه ببساطة حساب الخسائر المدنية “المقبولة” ثم الضغط على الزناد.
هل يمكننا إيقاف هذا؟
جزء من مشكلة تنظيم الذكاء الاصطناعي هو أنه غالبًا ما يكون له استخدامات مزدوجة.
إن إنتاج القنبلة الذرية يتطلب مصانع ضخمة ومواد نادرة.
ومع ذلك، يشير باين إلى أن التكنولوجيا التي تشغل سيارة أجرة بدون سائق “في شوارع لندن” يمكن بسهولة استخدامها “لقيادة دبابة عبر الغابة”.
ويمكن أيضًا تطويرها سرًا، حيث لا يمكن تتبع المبرمجين الذين يكتبون التعليمات البرمجية بسهولة مثل قيام العلماء النوويين ببناء المرافق ونقل المواد.
يعترف باين: “أنا متشكك بشأن القدرة على تنظيم أو وجود نظام للحد من الأسلحة”.
“قد يقول الخصم: لا، لا، كل تكنولوجيا الذكاء الاصطناعي التي قمنا بتطويرها مخصصة للاستخدام في قطاعات النقل الطبي”.
“ثم قبل دقائق أو ساعات من القتال، يقومون بتحميل تلك القدرات… ويخرجون بجيش مستقل تمامًا”.
بقاء القوات
فهل انتهت هذه “اللعبة” بالنسبة للفريق المتواضع؟ ليس بعد.
أسراب طائرات بدون طيار يمكن للروبوتات أن تملأ السماء ويمكن للذكاء الاصطناعي تقديم المشورة التكتيكية، لكن باين يقول إن الواقع “القاسي والموحل” في ساحات القتال لا يزال صعبًا على الروبوتات.
وحتى تشغيل الروبوتات قد يكون مشكلة.
“كم تدوم البطارية؟ تكنولوجيا البطاريات تتخلف بشكل كبير عن تكنولوجيا الذكاء الاصطناعي.
“لذلك أعتقد أن هناك بعض الأسباب المبتذلة التي تجعلني أعتقد أننا سنرى جنود مشاة في ساحات القتال لسنوات عديدة في المستقبل.”
ويقول إنه من المرجح أن نرى مستقبلًا على غرار حرب النجوم بدلاً من ذلك، وينصحنا بالتفكير في R2-D2.
“هناك روبوت يذهب إلى المعركة إلى جانب الإنسان.
“ويوفر مصدرًا إضافيًا للتقييمات الغنية بالسياق.
“أعتقد أننا سنرى المزيد من R2-D2 وأقل من Luke Skywalker.”
