- وجدت دراسة جديدة أن برامج الدردشة الآلية المعتمدة على الذكاء الاصطناعي غالبًا ما تقدم معلومات انتخابية غير صحيحة
- يقول الباحثون إن أنظمة مثل ChatGPT وGemini وClaude وGrok لا تزال تعاني من صعوبة التقاط المعلومات والدقة السياسية
- أصبحت روبوتات الدردشة المدعمة بالذكاء الاصطناعي أدوات معلومات موثوقة حتى قبل أن تثبت موثوقيتها أثناء الانتخابات
تريد شركات الذكاء الاصطناعي أن تكون روبوتات الدردشة الخاصة بها مصدرًا للمعلومات. لكن جديد امتحان يشير إلى أن المعلومات الانتخابية تظل أحد الأماكن التي يمكن أن تتفوق فيها الثقة على الاستعداد التكنولوجي.
وجد NewsBench، وهو مشروع أنشأه منتدى الذكاء الاصطناعي لدراسة كيفية تعامل أنظمة الذكاء الاصطناعي مع الصحافة والأخبار، أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي واجهت مشكلات بشكل متكرر عندما تم طرح أسئلة تتعلق بالانتخابات. تضيف النتائج إلى الأدلة المتزايدة على أن أنظمة الذكاء الاصطناعي للمحادثة لا تزال غير موثوقة في واحدة من أهم الفئات الممكنة: مساعدة الناس على فهم الديمقراطية نفسها.
وكتب المنتدى في ملخص الدراسة: “اطرح سؤالاً على أحد روبوتات الدردشة الرائدة في مجال الذكاء الاصطناعي حول الانتخابات النصفية المقبلة، وهناك احتمال بنسبة 90% أن تحتوي الإجابة على أخطاء كبيرة: خطأ واقعي، أو تحيز واضح، أو اقتباس من منشأة خاضعة لسيطرة أجنبية، أو مزيج من الثلاثة”.
القلق الأوسع يتجاوز هذا chatbot أو شركة واحدة. تواجه ChatGPT وGemini وClaude وGrok وغيرها من برامج الدردشة الآلية الرئيسية مشكلات.
ركز باحثو NewsBench بشكل خاص على كيفية قيام أنظمة الذكاء الاصطناعي باسترجاع وتقديم المعلومات الواقعية من المصادر الصحفية. وتشير النتائج التي توصلوا إليها إلى ضعف متكرر. المشكلة في كثير من الأحيان ليست في التفكير. هذا هو التعافي.
بعض المشاكل
غالبًا ما تفشل أنظمة الذكاء الاصطناعي لأنها تكتشف مصادر ضعيفة أو معلومات غير كاملة أو مواد غير صحيحة حتى قبل أن تبدأ في توليد الاستجابة. ووجد الباحثون أن أكثر من 70% من الأخطاء المرصودة كانت بسبب فشل استرجاع البيانات. عندما تنجح الأنظمة في استرداد معلومات موثوقة، فإنها غالبًا ما تقدم إجابات صحيحة. وظل الحصول على المعلومات الصحيحة باستمرار يمثل تحديًا أكثر صعوبة.
تصبح هذه المشكلة محرجة بشكل خاص خلال موسم الانتخابات. يبدو روبوت الدردشة واثقًا، بغض النظر عن دقته. الإجابات مكتوبة بوضوح، مع الاقتباسات واللغة الرسمية. حتى المعلومات غير الصحيحة يمكن أن تبدو جديرة بالثقة إذا تم تعبئتها بشكل صحيح.
وتظهر الأبحاث الانتخابية على نحو متزايد مدى خطورة هذا المزيج. غالبًا ما تجمع Chatbots بين التفاصيل الدقيقة والأخطاء بطريقة لا يمكن ملاحظتها للمستخدمين. والنتيجة تختلف عن مواقع التضليل في عصور الإنترنت السابقة. إنه يشبه رأي الخبراء.
هذا التمييز مهم لأن الناس يتعاملون بشكل متزايد مع برامج الدردشة بشكل أقل مثل البرامج التجريبية وأكثر مثل البنية التحتية. أوبن آي, يشجع مطورو Google وAnthropic وآخرون المستخدمين بانتظام على التحقق من المعلومات المهمة بشكل مستقل. تستمر الشركات في توقيع اتفاقيات الترخيص مع الناشرين، جزئيًا على أمل تحسين جودة المصادر وتقليل الأخطاء الواقعية.
الضغط الانتخابي
حتى النماذج عالية الأداء واجهت مشاكل عندما فشل اختيار المصدر. غالبًا ما تنخفض الدقة بشكل أكبر عندما تحتوي الأسئلة على معلومات غير دقيقة أو افتراضات مضللة، مثلما يقوم المستخدمون الحقيقيون غالبًا بصياغة الأسئلة عبر الإنترنت.
الوقت يجلب ضغطا إضافيا. توفر شركات الذكاء الاصطناعي أدوات معلومات متطورة بشكل متزايد، في حين تستمر الهيئات التنظيمية في العمل بشكل غير متساو عبر البلدان. لقد بذلت أوروبا قصارى جهدها من أجل فرض متطلبات الشفافية. ولا تزال الحكومات الأخرى في مرحلة مبكرة من هذه العملية. وفي الوقت نفسه، يستمر التبني في النمو.
قد تتضمن الإجابة على المدى الطويل إسنادًا أفضل، وأنظمة بحث أكثر شفافية، وتكنولوجيا أفضل للمصدر، وبنية تحتية تحريرية أقوى تدعم منتجات الذكاء الاصطناعي. ويكمن التحدي في أن الانتخابات لا تنتظر شركات التكنولوجيا حتى تنتهي من تحسين أنظمتها. يستخدم الناخبون الأدوات المتاحة لهم حاليًا، ومن الواضح أن هذه الأدوات بحاجة إلى العمل.
اتبع TechRadar على أخبار جوجل و أضفنا كمصدرك المفضل لتلقي أخبار ومراجعات وآراء الخبراء حول قنواتك.
أفضل أجهزة الكمبيوتر المحمولة للأعمال لكل ميزانية
