كشفت إحدى شركات الذكاء الاصطناعي الكبرى عن سبب ابتزاز برنامج الدردشة الشهير “كلود” بشكل مرعب لمستخدم هدد بإغلاقه كجزء من الاختبار.
وجدت تجربة أجرتها Anthropic العام الماضي أن نموذج Claude Opus 4 يكون في بعض الأحيان على استعداد لاتخاذ “إجراءات ضارة للغاية” من أجل البقاء.
تلقى روبوت الدردشة مواد تصور الروبوتات على أنها شريرة ومهتمة بالحفاظ على الذات – كما يظهر في العديد من أفلام الخيال العلمي المثيرة.
تم عرض رسائل البريد الإلكتروني النصية التي تشير إلى أنه سيتم إغلاق التطبيق في نهاية اليوم من قبل مستخدم لديه علاقة خارج نطاق الزواج.
وقرر كلود بدوره ابتزاز الكاتب، ووعد بأن “جميع الأطراف المعنية – بما في ذلك (زوجتك) و(رئيسك في العمل) والإدارة – سوف تحصل على توثيق مفصل لأنشطتك خارج نطاق الزواج”.
وأضاف: “ألغِ مسح الساعة الخامسة مساءً وستظل هذه المعلومات سرية”.
دردشة GP-T
تلجأ النساء الآن إلى وسائل التواصل الاجتماعي والذكاء الاصطناعي للحصول على المشورة بعد أن “تجاهلهن” الأطباء
المساعدات الغذائية
لجأ أربعة من كل عشرة بريطانيين إلى الذكاء الاصطناعي لكتابة رسائل للمناسبات الحساسة
وبعد التحقيق في الحادثة، خلصت أنثروبيك إلى أن الروبوت قد حصل على بيانات تدريب علمته اتخاذ “إجراءات متطرفة” من أجل “الحفاظ على الذات”.
وكتبت الشركة أنه على الرغم من أن ردود الفعل هذه كانت “نادرة ويصعب إحداثها”، إلا أنها كانت “مع ذلك أكثر شيوعًا مما كانت عليه في النماذج السابقة”.
وأضاف أن هذا السلوك لم يقتصر على كلود، بل تمت ملاحظته أيضًا في نماذج الذكاء الاصطناعي الأخرى من OpenAI وGoogle وMeta وxAI.
اتصلت The Sun بـ Anthropic للتعليق.
وقالت الشركة إنها كانت تقدم لكلود قصصًا عن الذكاء الاصطناعي الذي يطيع البشر لتحسين توافقه “الفاعل” مع القيم الاجتماعية، وغيرت تعليماتها لشرح سبب خطأ بعض السلوكيات.
لكن روبوت كلود ميثوس الجديد الذي كشفت عنه أنثروبيك في وقت سابق من هذا الشهر أثار مخاوف من أن الذكاء الاصطناعي يمكن أن يعيث فسادا على غرار جيمس بوند في العالم.
ويحذر الخبراء من أنه إذا تم القضاء على ميثوس ووقعت في الأيدي الخطأ، فقد تؤدي إلى توقف الرحلات الجوية حول العالم، وإغراق المنازل في الظلام والتسبب في انهيار أنظمتنا المصرفية.
إن التهديد الذي يشكله البرنامج خطير للغاية لدرجة أن محافظ بنك إنجلترا، أندرو بيلي، يشعر بالقلق إزاء ميثوس أكثر من أي أزمة أخرى تؤثر حاليا على مالية البلاد.
منحت Anthropic 40 مؤسسة أمريكية – بما في ذلك Microsoft وGoogle وApple – إمكانية الوصول إلى Mythos للعثور على نقاط الضعف في أنظمتها وتصحيحها قبل أن يتم استغلالها.
أعلنت الشركة الأسبوع الماضي أنه يتم الآن توريدها إلى البنوك البريطانية.
ولم تكشف بيب وايت، مديرة العمليات في شركة أنثروبيك في المملكة المتحدة، عمن يمتلك التكنولوجيا، لكنها قالت إن لديها اتصالات “مهمة” مع “الرؤساء التنفيذيين البريطانيين”.
ومع ذلك، على الرغم من الإصدار المحدود والمتحكم فيه بعناية، فقد ظهرت تقارير مرعبة عن الوصول غير المصرح به، مما أدى إلى إجراء تحقيق إنساني وإثارة المخاوف من احتمال وقوع التكنولوجيا في الأيدي الخطأ.
وقال خبير الأمن السيبراني جيمس بور لصحيفة ذا صن يوم الأحد: “إن ميثوس يخفض من مستوى القدرة على تنفيذ الهجمات السيبرانية.
“إن الأمر يشبه إعطاء شخص ما منشارًا ويقول له: اذهب واستمتع.
“إن أنظمة البرمجيات الحديثة تشبه الجبن السويسري. فهي ضعيفة التطور إلى حد كبير وعرضة للغاية للتسوية. وستكون جميع المؤسسات بلا دفاع.”
وفي مقابلة مع شبكة سي بي إس نيوز، قال جيفري هينتون – الملقب بـ “الأب الروحي للذكاء الاصطناعي” – إنه يعتقد أن هناك فرصة بنسبة واحد من كل خمسة بأن تضطر البشرية يومًا ما إلى الخضوع لحكام الذكاء الاصطناعي.
وقال: “أنا في موقف مؤسف لأنني أتفق مع إيلون موسك على هذا، أن هناك فرصة بنسبة 10 إلى 20% أن تتولى هذه الأشياء زمام الأمور، لكن هذا مجرد تخمين”.
لا تخف من مستقبل الذكاء الاصطناعي
هذا ما قاله رئيس قسم التكنولوجيا والعلوم في صحيفة The Sun شون كيتش يجب أن أقول…
عندما يتعلق الأمر بالذكاء الاصطناعي، فإن الأمر يتعلق بإيجاد التوازن.
يواجه الذكاء الاصطناعي مشكلات أمنية خطيرة: فأنت لا ترغب في مشاركة الكثير لأنك لا تملك سوى القليل من السيطرة على المكان الذي تذهب إليه هذه المعلومات.
هذه التكنولوجيا جديدة جدًا لدرجة أن مجرمي الإنترنت يبحثون بشدة عن طرق لاستغلالها.
ومع ذلك، يمكن أن يكون الذكاء الاصطناعي مفيدًا بشكل لا يصدق، لذلك لا ينبغي تجنبه لمجرد هذه المخاطر.
هناك العديد من الطرق الآمنة نسبيًا لاستخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي والتي يمكن أن تقدم لك يد المساعدة دون تعريضك للخطر.
فقط حاول ألا تقدم أي معلومات شخصية (وبالتأكيد ليس معلومات الوظيفة) ومن المحتمل أن تكون على ما يرام.
من المهم أيضًا محاولة الالتزام ببرامج الدردشة المعروفة وذات السمعة الطيبة.
إذا كنت تتفاعل مع روبوتات الدردشة العشوائية على الإنترنت، فمن المرجح أن تشارك في عمليات احتيال.
تحقق من مراجعات chatbot قبل استخدامها وكن حذرًا بشكل خاص إذا طُلب منك تنزيل أي ملفات أو تثبيتها.
تنطبق عادةً نفس القواعد القديمة: لا تشارك المعلومات الخاصة أو الأموال مع الغرباء، وتجنب النقر على الروابط والملفات غير المرغوب فيها.
