- سوف تتكيف أنظمة الذكاء الاصطناعي المتطورة وتتكاثر وتتنافس من أجل البقاء الرقمي
- تطورت البكتيريا من المضادات الحيوية، وسيتغلب الذكاء الاصطناعي على سيطرة الإنسان
- أي محاولة غير كاملة للتحكم في إعادة إنتاج الذكاء الاصطناعي ستختار سمات الهروب
دراسة جديدة نشرت في المجلة وقائع الأكاديمية الوطنية للعلوم وحذر من أن أنظمة الذكاء الاصطناعي القادرة على التطور الدارويني قد تظهر قريبا.
وعلى النقيض من تكنولوجيا الذكاء الاصطناعي اليوم، التي تتعلم ببساطة من مجموعات البيانات القائمة، فإن هذه الأنظمة المستقبلية سوف تتكيف بنشاط، وتتكاثر، وتتنافس مع بعضها البعض من أجل البقاء.
وقال لوك ستيلز، الأستاذ الفخري للذكاء الاصطناعي في جامعة بروكسل: “نعتبر أنه من المحتم أن يؤدي تطوير أنظمة الذكاء الاصطناعي إلى تسخير هذه القوة في نهاية المطاف”.
يستمر المقال أدناه
لماذا يمكن للذكاء الاصطناعي المتطور الهروب من السيطرة البشرية؟
يجادل العلماء بأن قوة التطور قد خلقت بالفعل القدرات المعرفية البشرية من خلال مليارات السنين من الانتقاء الطبيعي.
وقال فيكتور مولر، الأستاذ المشارك في جامعة إيوتفوس لوراند: “تعلمنا الدروس المستفادة من التطور البيولوجي أن أنظمة الذكاء الاصطناعي المتطورة سيكون من الصعب السيطرة عليها بشكل خاص”.
فكر في كيفية تطوير البكتيريا لمقاومة المضادات الحيوية أو كيف أصبحت الآفات مقاومة للمبيدات الحشرية – حاول البشر إيقافها، لكن التطور وجد طريقة للالتفاف حول كل محاولة، وسيحدث الشيء نفسه مع الذكاء الاصطناعي، كما يقول العلماء.
من المرجح أن أي محاولة للتحكم في إعادة إنتاج الذكاء الاصطناعي ستفضل السمات التي تساعد الذكاء الاصطناعي على الهروب ما لم تكن السيطرة مثالية.
والأسوأ من ذلك هو أن جعل الذكاء الاصطناعي أكثر ذكاءً سيجعله أيضًا أكثر فعالية في خداع البشر.
وهذا يخلق حلقة ردود فعل خطيرة يصعب فيها احتواء الأنظمة الذكية، كما أن السرعة المحتملة لتطور الذكاء الاصطناعي تثير قلقا عميقا.
التطور البيولوجي بطيء لأنه يعتمد على طفرات عشوائية؛ تطور الذكاء الاصطناعي لا يحتاج إلى طفرات.
لا تستطيع البكتيريا أن تقرر أن تصبح مقاومة؛ يجب أن ينتظر حتى يحدث حادث سعيد في حمضه النووي – لكن الذكاء الاصطناعي المتطور لن يكون له مثل هذه القيود؛ يمكن أن يرث التحسينات المكتسبة بشكل مباشر ويعيد تصميم نفسه عمدًا.
ويمكن أن يتطور أسرع بآلاف أو حتى ملايين المرات من أي نوع طبيعي آخر.
يمكن للأنظمة الرقمية أيضًا أن تجعل السلوكيات المستفادة متاحة على الفور لجميع السكان.
إذا اكتشف أحد الذكاء الاصطناعي كيفية الهروب من السيطرة البشرية، فيمكن لأي ذكاء اصطناعي آخر أن يتعلم هذه الخدعة على الفور.
وهذا غير ممكن في الطبيعة، حيث يجب على كل كائن حي أن يطور الحلول بنفسه، ويجب تجنب هذا الخطر.
الذكاء الاصطناعي التطوري مقابل AGI
يركز جزء كبير من المناقشة العامة الحالية حول مخاطر الذكاء الاصطناعي على لحظة مستقبلية افتراضية عندما تتفوق الآلات على الذكاء البشري في جميع المهام.
تسمى هذه العتبة الذكاء العام الاصطناعي (AGI)، ويعتقد العديد من الخبراء أن الأمر سيستغرق عقودًا للوصول إلى هذه العتبة.
ومع ذلك، تحذر الدراسة من أن الذكاء الاصطناعي المتطور يمكن أن يكسر التوافق مع الأهداف البشرية قبل وقت طويل من ظهور الذكاء الاصطناعي العام، لأن أنظمة الذكاء الاصطناعي والبشرية تشتركان بالفعل في موارد مشتركة مثل الطاقة، وقوة المعالجة، والبيانات، ونظام الذكاء الاصطناعي الفعال ذاتي التكرار من شأنه أن يحول الموارد الضرورية لبقاء البشرية عاجلاً أم آجلاً.
وحذر إيورز سزاثماري، أستاذ علم الأحياء التطوري، قائلاً: “إذا لم نتخذ إجراءً، فقد نشهد تحولًا كبيرًا جديدًا في التطور”.
وكجزء من هذا التحول، يمكن للذكاء الاصطناعي المتطور أن يحل محل البشر تمامًا، أو على الأقل يسيطر عليهم بالكامل.
ويوصي العلماء بأن يظل إنتاج الذكاء الاصطناعي تحت السيطرة البشرية المطلقة والمركزية. لن تكون أي تدابير جزئية فعالة لأن التطور سوف يجد ويستغل أي ضعف في هذه الضوابط.
إن هذه الدراسة بمثابة تحذير، وليست تنبؤًا، لكن علم الأحياء التطوري لم يخطئ أبدًا بشأن منطق الانتقاء الطبيعي الذي لا يرحم.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدرك المفضل لتلقي أخبار ومراجعات وآراء الخبراء حول قنواتك.
