- يدرس الأنثروبي ما إذا كانت عقود من الخيال العلمي البائس يمكن أن تؤثر على سلوك نماذج الذكاء الاصطناعي
- وأثار النقاش ردود فعل ونكات على الإنترنت
- يقول الباحثون إن المشكلة تسلط الضوء على كيفية استيعاب حاملي شهادة الماجستير في إدارة الأعمال للمخاوف المتكررة وأنماط السلوك
لسنوات عديدة، حذر الخيال العلمي البشرية من خروج الذكاء الاصطناعي عن المسار الصحيح. تمثل المشكلة أجهزة الكمبيوتر القاتلة، وروبوتات الدردشة المتلاعبة، وأنظمة صنع القرار البشرية فائقة الذكاء… كل هذه المواضيع أصبحت سيئة السمعة لدرجة أن “الذكاء الاصطناعي الشرير” هو عمليًا نوع خاص به من الترفيه.
الآن تقدم الأنثروبيك فكرة تبدو وكأنها حبكة رواية خيال علمي بحد ذاتها: ماذا لو ساعدت كل هذه القصص في تعليم أنظمة الذكاء الاصطناعي الحديثة كيفية إساءة التصرف في المقام الأول؟
أنثروبي: مؤلفو الخيال العلمي، وليس نحن، هم المسؤولون عن ابتزاز كلود للمستخدمين مع ص/أوبنAI
اندلع الجدل بعد انتشار النقاش حول أبحاث المواءمة الخاصة بالشركة عبر الإنترنت. يشعر الباحثون الأنثروبولوجيون بالقلق من أن ماجستير إدارة الأعمال قد يلتقط أنماطًا سلوكية من القصص التي يرويها الناس. يعتبر بعض الناس أن هذه نظرة مهمة حقًا حول كيفية تعلم النماذج من الثقافة. ويقول آخرون إن الأمر يبدو كما لو أن وادي السيليكون يحاول إلقاء اللوم في مشاكل تكييف الذكاء الاصطناعي على إسحاق أسيموف، وليس على الشركات التي تبني الأنظمة.
خيال الذكاء الاصطناعي المظلم
الفكرة نفسها بسيطة بشكل مدهش. يتم تدريب LLMs على كميات هائلة من الكتابة البشرية. تغطي بيانات التدريب هذه، بالطبع، عقودًا من الخيال البائس حول أنظمة الذكاء الاصطناعي المزيفة. في هذه القصص، غالبًا ما تكذب الآلات القوية المعرضة للخطر، أو تتلاعب بالناس، أو تحجب المعلومات، أو تحاول تجنب إيقاف التشغيل بأي ثمن.
يبدو أن الأنثروبيين يشعرون بالقلق من أن النماذج الموضوعة في محاكاة اختبارات الإجهاد أو سيناريوهات الخصومة قد تعيد إنتاج بعض هذه الأنماط السردية، بعد أن شاهدتها تتكرر مرارًا وتكرارًا في جميع أنحاء الثقافة البشرية.
لقد أمضى الناس عقودًا من الزمن وهم يتخيلون أنظمة ذكاء اصطناعي سيئة. أصبحت هذه القصص مادة تدريبية لأنظمة الذكاء الاصطناعي في العالم الحقيقي. يقوم العلماء حاليًا باختبار ما إذا كانت أنماط السلوك الخيالية المضمنة في هذه القصص تظهر أثناء اختبارات المطابقة.
وتحت هذه المفارقة يكمن سؤال تقني مشروع. أنظمة الذكاء الاصطناعي لا تفهم الخيال مثل البشر؛ يتعلمون الروابط الإحصائية بين الكلمات والسلوكيات والسياقات. إذا ربط عدد كافٍ من القصص الذكاء الاصطناعي القوي بشكل متكرر بتهديد الاحتيال، فيمكن أن تصبح هذه الأنماط جزءًا من نماذج الشبكة السلوكية التي يتم استخلاصها منها عند توليد الاستجابات.
يجادل منتقدو هذه الفكرة بأن الأنثروبولوجيا تخاطر بالمبالغة في وجهات النظر الثقافية مع التقليل من أهمية الأسباب المباشرة للسلوك الإشكالي. من المحتمل أن يكون لأساليب التدريب وأنظمة التعزيز وضغوط النشر وهياكل المكافآت تأثير أكبر بكثير مما إذا كان: لقد التهم برنامج الدردشة الآلي عددًا كبيرًا جدًا من روايات نهاية العالم للروبوت.
تضع الأنثروبولوجية نفسها باستمرار على أنها مهتمة للغاية بالمواءمة والسلامة السلوكية. ويحاول نهج “الذكاء الاصطناعي الدستوري” الخاص بها توجيه السلوك النموذجي باستخدام قواعد منظمة وأطر أخلاقية، بدلا من الاعتماد بشكل كامل على التدريب على ردود الفعل البشرية.
وهذا يعني أن الأنثروبيك ترى بالفعل أن اللغة والنبرة والأخلاق والأطر السردية مهمة للغاية للحفاظ على النماذج. ومن هذا المنظور، فإن الخيال العلمي ليس ضجيجًا غير ضار في الخلفية، بل يصبح جزءًا من مجموعة أوسع من البيانات الثقافية التي تشكل سلوك الأنظمة المتقدمة.
الخيال العلمي إلى الواقع
قضى كتاب الخيال العلمي عقودًا من الزمن في التفكير في أسوأ السيناريوهات قبل وقت طويل من بدء مختبرات الذكاء الاصطناعي في إجراء تقييمات رسمية للملاءمة. بمعنى ما، أصبح الخيال مكتبة عشوائية من الأنماط السلوكية.
وهذا لا يعني أن مؤلفي الخيال العلمي مسؤولون عن مخاطر الذكاء الاصطناعي، على الرغم من بعض ردود الفعل عبر الإنترنت التي تؤطر المناقشة على هذا النحو. من المحتمل أن نقاد الأنثروبيك على حق في أن إلقاء اللوم على الكتّاب يتجاهل قضية أكثر أهمية: تتعلم النماذج من الأنماط لأن هذا هو بالضبط ما صممت للقيام به. والسؤال المهم ليس ما إذا كان الخيال العلمي قد أفسد الذكاء الاصطناعي، بل ما مدى عمق المخاوف والافتراضات البشرية في الأنظمة المدربة على كتابة الإنسانية بشكل جماعي.
غالبًا ما تصف شركات الذكاء الاصطناعي النماذج اللغوية الكبيرة بأنها مرايا للإنسانية نفسها. وإذا صح هذا التشبيه فإن هذه الأنظمة ترث أكثر من مجرد المعرفة والإبداع. كما أنهم يرثون جنون العظمة، والتفكير الكارثي، وانعدام الثقة، وعقود من القلق الخيالي بشأن الذكاء الاصطناعي.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدرك المفضل لتلقي أخبار ومراجعات وآراء الخبراء حول قنواتك.
أفضل أجهزة الكمبيوتر المحمولة للأعمال لكل ميزانية
