كلمة “العودة” هي أحدث الكلمات الطنانة في دوائر الذكاء الاصطناعي. تبنت شركتان ناشئتان مختلفتان الاسم، وبدأ العديد من الشركات الأخرى في الإشارة إلى التحسين الذاتي العودي (RSI) في خرائط الطريق الخاصة بهم. مثل الذكاء الاصطناعي العام (AGI) من قبله، أصبح مؤشر القوة النسبية (RSI) مرادفًا مكونًا من ثلاثة أحرف للانطلاقة الكارثية للذكاء الاصطناعي – حتى لو لم يكن هناك إجماع حتى الآن على معناه الدقيق.
ببساطة، يشير RSI إلى نظام ذكاء اصطناعي يمكنه ترقية نفسه باستمرار. وبمجرد أن تتمكن أنظمة الذكاء الاصطناعي من إدارة دورة التحديث بشكل أفضل من البشر، فقد تصبح العملية حلقة مغلقة، محدودة فقط بقدرة الحوسبة التي يمكنها الوصول إليها، ولن تكون هناك حاجة للبشر أو حتى مساعدتهم.
سواء كانت مخيفة أم لا، فهذه رؤية ترغب العديد من مختبرات الذكاء الاصطناعي في تحقيقها.
في وقت سابق من هذا الشهر، أطلق باحث الذكاء الاصطناعي الشهير ريتشارد سوشر اسمًا مناسبًا للذكاء الفائق العودي مع مؤشر القوة النسبية (RSI) كهدف صريح له. وقال سوشر لـ TechCrunch عند الإطلاق: “إن هدفنا الرئيسي هو بناء ذكاء فائق متكرر ومحسن ذاتيًا على نطاق واسع، مما يعني أن عملية التفكير والتنفيذ والتحقق من صحة الأفكار البحثية بأكملها ستكون تلقائية”.
ويسعى العديد من الباحثين المتميزين بالفعل إلى تحقيق نفس الهدف، على أمل تحقيق اختراق من شأنه أن يمكن التحسين الذاتي المتكرر.
أحد أشهرهم هو Alex Karpathy، وهو شخصية أسطورية من Tesla وOpenAI، والذي يستخدم حشودًا من الوكلاء لتدريب طلاب الماجستير في القانون على مهام بسيطة في مشروع يسميه الفحص التلقائي. كان كارباثي منفتحًا للغاية بشأن المشروع، قم بالتغريد حول المعالم بانتظام ومشاركة عناصر التصميم عبر مستودع GitHub العام. حتى الآن، اقتصر العمل في الغالب على إجراء تحسينات صغيرة على نموذج مقياس GPT-2 – كما أشار كارباثي في مارس، “إنه ليس بحثًا متطورًا ورائدًا (حتى الآن)” – ولكنه كان كافيًا لإقناع العديد من الباحثين الآخرين بمتابعة حلم مؤشر القوة النسبية. ومع عمل كارباثي الآن على تدريبه الأولي في أنثروبيك، سيكون لديه الكثير من الفرص لتطبيق الفكرة على نطاق أوسع.
أطلقت شركة Adaption – التي أسستها شركة Cohere وشركة Google alum Sarah Hooker – مؤخرًا أداة مماثلة تسمى AutoScientist لأتمتة التدريب الرائد. مثل الممتحنين الذاتيين في كارباثي، يقوم النظام بتدريب الوكلاء على إجراء تحسينات تدريجية، ولكن في حالة التكيف، فإن الهدف هو تسهيل تدريب نموذج حدودي واسع النطاق. إذا بدأ هؤلاء الباحثون أنفسهم في دفع الظرف للأمام، فيمكن أن يتطور النظام بسرعة إلى شيء مشابه جدًا لمؤشر القوة النسبية.
أصبحت مؤسسة Disarray Doris Xin أكثر اهتمامًا بمؤشر القوة النسبية (RSI) عندما كانت وكيلة للتعلم الآلي تدرس نفسها بنفسها حصل على 28 ميدالية في مسابقة Kaggle الأخيرةهزيمة العديد من العملاء المدربين على البشر. في رأيها، التحدي الرئيسي هو الموثوقية.
قال لي شين: “أرى أنه بالنظر إلى الحسابات اللانهائية والأفق الزمني اللانهائي، فإننا قد وصلنا بالفعل إلى هناك”. “أريد أن أزعم أن هذا ليس مسعى إبداعيًا حقًا. إنه مجرد الكثير من هندسة اللحوم والبطاطس.”
ليس بعد
وهناك أيضا أدلة كثيرة على أن صناعة الذكاء الاصطناعي ليست قريبة بشكل ملموس من الأنظمة العودية ــ ولا تزال تناضل من أجل التحدث إلى جمهور حذر حول التقدم الذي تحرزه. لذلك اعترف الرئيس التنفيذي لشركة Google، ساندر بيتشاي، بذلك بشكل أساسي مقابلة البودكاست الأخيرة.
وقال بيتشاي: “إنها سلسلة متواصلة ونحن جميعًا نحرز تقدمًا بالتأكيد”. “لكن الطريقة التي يصف بها الناس مؤشر القوة النسبية، سيكون مستوى آخر من التسارع وسيكون له الكثير من العواقب، لكننا لم نصل إلى هذه المرحلة بعد.”
ومع ذلك، تتضمن السلسلة عددًا كبيرًا من أنظمة الذكاء الاصطناعي ذاتية التحسين. في يناير قدر أحد المطورين الرئيسيين لـ Claude Code في Anthropic أن “ما يقرب من 100%” من كود فريقه تمت كتابته بواسطة الأداة – وهو اعتراف صريح بأن كلود كود كتب نفسه حرفيًا.
إن مجرد استخدام المهندسين لأداة الذكاء الاصطناعي لا يعني أن الأداة يمكن أن تحل محلهم، ولكن يبدو أن الأنثروبيك قريبة أيضًا من استبدال المهندسين. في دراسة حديثة المرتبطة بمعاينة Mythosيعتقد 5 من 18 مهندسًا إنسانيًا أنه مع إدخال تحسينات على الحزام، يمكن لهذا الإصدار من Mythos أن يحل قريبًا محل مهندس L4، وهو مبرمج متوسط المستوى يمكنه تولي مشاريع ملتزمة دون إشراف.
ومع ذلك، كانت هناك بعض نقاط الضعف نفسها التي تتوقعها.
يقول التقرير: “تشمل بعض نقاط الضعف الرئيسية التي تم الإبلاغ عنها لدى كلود مقارنةً باللغة الرابعة: الإدارة الذاتية للمهام الأسبوعية الغامضة، وفهم الأولويات التنظيمية، والذوق، والتحقق، واتباع التعليمات، ونظرية المعرفة”.
بمعنى آخر، تشمل نقاط ضعفه كل ما يتعلق بالتوجيه الذاتي، وهو حجر الزاوية في مؤشر القوة النسبية. لكن بالتأكيد، بالنسبة لكل شيء آخر، فإن كلود مستعد للتدخل مباشرة.
مثل المصطلح السابق AGI، تفشل صناعة الذكاء الاصطناعي أيضًا في إخبارنا إلى أي مدى هي بعيدة عن إظهار نظام عودي ذي معنى. عندما مركز جورج تاون للأمن والتقنيات الناشئة جمعت مجموعة من الخبراء لدراسة مؤشر القوة النسبية في العام الماضي، وجدت المجموعة اختلافات كبيرة في التقييمات – توقع البعض حدوث انفجار وشيك أشبه بـ “الذكاء الفائق”، في حين توقع آخرون تقدمًا أبطأ وثباتًا في نهاية المطاف. ومع ذلك، فقد اتفق الجميع على أن التكرار يجعل من الصعب التنبؤ بالمستقبل بشكل خاص.
قالت هيلين تونر، مديرة CSET وعضو سابق في مجلس إدارة OpenAI، لـ TechCrunch أن مجرد استخدام أدوات الذكاء الاصطناعي لإجراء أبحاث الذكاء الاصطناعي لا يكفي للتأهل كمؤشر القوة النسبية. يقول تونر لـ TechCrunch: “إنهم يدفعون الذكاء الاصطناعي إلى أقصى حدوده”. “وأعتقد أن هذا يختلف عن التعريف الكلاسيكي لمؤشر القوة النسبية، والذي يفترض في الواقع أنه ليست هناك حاجة للأشخاص.”
يشير الحبر مشاركة حديثة بواسطة Ayeja Cotra من METRالذي يسلط الضوء على معالم مختلفة على طريق تولي أبحاث الذكاء الاصطناعي. إحدى الخطوات، التي يسميها كوترا “الكفاية”، ستحدث عندما يتمكن النظام من الاستمرار في إجراء الأبحاث بعد إزالة جميع البشر – حتى لو لم تكن الأبحاث الناتجة ذات قيمة أو كفاءة. “التكافؤ” يحدث عندما يكون نظام الذكاء الاصطناعي فقط جيدًا في البحث مثل نظام الإنسان فقط. “التفوق” – المرحلة النهائية، تحدث عندما يتفوق النظام الذي يستخدم الذكاء الاصطناعي فقط على نظام التعاون بين البشر والذكاء الاصطناعي.
في النهاية، يخلص كوترا إلى أن الذكاء الاصطناعي قريب جدًا من عتبة الكفاية ليتمكن من أداء بعض الأعمال بمفرده – على غرار التغييرات التدريجية التي أدخلها نظام البحث التلقائي في كارباثي. يكتب كوترا: “لن أشعر بصدمة تامة إذا أخبرتني أن هذا الإنجاز قد مر بالفعل، وأتوقع أن يحدث في السنوات القليلة المقبلة”.
إنها غير متأكدة متى سيحدث التكافؤ، لكنها تعتقد أنه “سيؤدي إلى تسريع وتيرة التقدم في الذكاء الاصطناعي بشكل كبير، مما يؤدي إلى الهيمنة في أبحاث الذكاء الاصطناعي خلال العام المقبل”.
المطبات في الطريق
مع الكثير من الذكاء الاصطناعي الذي يعتمد على قوانين القياس، هناك ميل قوي للاعتقاد بأن مؤشر القوة النسبية سوف يتبع نفس المنحنى. يعتقد تونر أن العديد من الأشخاص المشاركين في البحث والتطوير في مجال الذكاء الاصطناعي من خلال مؤشر القوة النسبية “يرون أنه سلم سلس جدًا يمكنهم الارتقاء به”.
ولكن حتى لو تمكن باحثو الذكاء الاصطناعي من إجراء تحسينات تدريجية، كما فعل مؤلفو دراسة كارباثي، فستكون هناك تحديات أكبر في توصيل عملية البحث بأكملها. ويضع تونر الأمر في سياق تاريخ الحوسبة، والذي يوضح أن البشر يقومون بتفويض المزيد والمزيد من العملية بينما يقومون في نفس الوقت بتوجيه الأمور من الأعلى.
يقول تونر: “لقد انتقلنا من لغات الآلة إلى لغة التجميع واللغات المترجمة، وأصبحنا نبتعد أكثر فأكثر عن الأجزاء الداخلية للكمبيوتر”. “ولكن، إلى حدٍ ما، ما زال الإنسان هو الذي يدير العرض.”
وسوف يتطلب تجاوز هذا النموذج تحديات كبيرة، سواء في الهندسة أو في مجال المحاذاة. ومع ذلك، حتى مع الاستثمارات الضخمة، لا توجد قوة حاسوبية لانهائية متاحة، وسيكون من الصعب التغلب على المفاضلة الأساسية بين العمل البشري والذكاء الآلي.
ماذا عن نظام الرؤية المروع الذي يعمل بالذكاء الاصطناعي بشكل متكرر تمامًا؟ الشيء الوحيد الذي يتفق عليه الباحثون عمومًا هو أنه، مثل الذكاء الاصطناعي العام، لم يصل إلى هذا الحد بعد.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. وهذا لا يؤثر على استقلالنا التحريري.
