تم تقديمه بواسطة Verifa
لا يستطيع الأمريكيون التمييز بشكل موثوق بين المحتوى الحقيقي والمحتوى الناتج عن الذكاء الاصطناعي، وهي ليست مجرد مشكلة محو الأمية الإعلامية؛ وهذا يشكل تهديدًا مباشرًا للطريقة التي تتحقق بها الشركات من هوياتها عبر الإنترنت.
يُظهر بحث جديد أنه على الرغم من أن الكثير من الناس على دراية بالتزييف العميق، إلا أن قدرتهم على تمييزها عن الواقع أفضل قليلاً من رمي العملة المعدنية. أظهرت دراسة أجراها فيريف وكانتار عام 2026 على 3000 مشارك في الولايات المتحدة والمملكة المتحدة والبرازيل أن الأمريكيين سجلوا 0.07 فقط على مقياس حيث يمثل الصفر تخمينًا عشوائيًا.
إذا لم يتمكن الأشخاص من التمييز بين المحتوى المرئي الأصيل، فلن يتمكنوا من التمييز بشكل موثوق بين الهويات الأصيلة. ومن الناحية العملية، يعني هذا أن نفس المستخدمين الذين يستخدمون الخدمات الرقمية غالبًا ما يكونون غير قادرين على معرفة ما إذا كان الشخص الموجود على الجانب الآخر من الشاشة حقيقيًا أم لا.
إن عدم الكفاءة هذا له عواقب مباشرة على أي شركة رقمية تعتمد على التحقق من الهوية عبر الصور والفيديو للتحقق من الشخص الموجود على الجانب الآخر من الشاشة. يتضمن ذلك كل شيء بدءًا من تأهيل العملاء واسترداد الحساب وحتى التحقق من التاجر في السوق ومعاملات التجارة الإلكترونية عالية القيمة والمصادقة على منصات التواصل الاجتماعي والتحكم في الوصول للمؤسسات.
وفي الولايات المتحدة، أصبحت هذه العواقب ملموسة بالفعل – فالآن يتسبب الاحتيال في الهوية الاصطناعية في خسائر سنوية بالمليارات، وأصبحت الأدوات اللازمة لتوليد صور مزيفة مقنعة متاحة على نطاق واسع الآن.
وحدد التقرير أيضًا مجموعة صغيرة ولكنها شديدة الخطورة: ما يقرب من 7٪ من المستخدمين ضعيفين في اكتشاف التزييف العميق، لكنهم واثقون من قدراتهم ونادرًا ما يتحققون مما يرونه. وعلى الرغم من أن هذه نسبة صغيرة، إلا أنها تعكس على نطاق واسع ملايين الحسابات التي تعتبر أهدافًا سهلة جدًا للاحتيال.
إذا لم يتمكن المستخدمون من التمييز بشكل موثوق بين الهويات الحقيقية والاصطناعية، فإن أي نظام يعتمد على التحقق البصري سيكون عرضة للخطر بشكل أساسي. لم يعد من الممكن التعامل مع التحقق من الهوية كوظيفة امتثال؛ وبدلا من ذلك، ينبغي بناؤها كبنية تحتية رقمية أساسية.
يقول إيرا بوندار موتشي، مدير منصة الاحتيال في Veriff: “الآن بعد أن أصبح المحتوى الناتج عن الذكاء الاصطناعي غير قابل للتمييز عن الواقع، لم تعد العين البشرية وحدها خط دفاع موثوقًا”. “يجب على الشركات وصناع القرار في الولايات المتحدة أن يعملوا بشكل عاجل على سد فجوة الوعي هذه مع الاستثمار في تقنيات التحقق الآلي التي يمكنها التقاط ما لا يستطيع البشر التقاطه ببساطة.”
فجوة الوعي حول التزييف العميق في الولايات المتحدة أوسع من المتوقع
قد تكون الولايات المتحدة المركز العالمي لتطوير الذكاء الاصطناعي التوليدي، لكن المستهلكين الأمريكيين لديهم أقل معرفة بالزيف العميق بين الأسواق الثلاثة التي شملها الاستطلاع. ولا يعرف هذا المصطلح سوى 63% من البالغين في الولايات المتحدة، مقارنة بـ 74% في المملكة المتحدة و67% في البرازيل.
يقول بوندار موتشي: “هناك مفارقة هنا”. “الولايات المتحدة هي المركز العالمي لتطوير الذكاء الاصطناعي، ومع ذلك فإن المستهلكين الأمريكيين هم الأقل دراية بواحدة من أخطر المنتجات الثانوية للذكاء الاصطناعي. تاريخياً، وضع المستهلكون ثقة أكبر في المحتوى الرقمي، وركزت المحادثات حول الاحتيال على خصوصية البيانات أكثر من التركيز على صحة المحتوى. المشكلة هي أن انخفاض الوعي لا يقلل من المخاطر، بل يزيدها في الواقع. إذا كنت لا تعرف ما هو التزييف العميق، فمن غير المرجح أن تتوقف وتتحقق مما إذا كنت قد واجهته”.
إن اكتشاف التزييف العميق البشري ليس أفضل من رمي العملة المعدنية
ومن الناحية العملية، فإن العشوائية التي تميز قدرة المستهلك على التمييز بين الحقيقي والمزيف تتجلى في الطريقة التي يقيم بها الناس أنواعًا مختلفة من المحتوى. أثبت محتوى الفيديو أنه يمثل تحديًا خاصًا، حيث غالبًا ما يتم تحديد مقاطع الفيديو المزيفة على أنها أصلية، وغالبًا ما يتم وضع علامة على مقاطع الفيديو الحقيقية على أنها مزيفة. وحتى في المقارنات المباشرة، قام المشاركون بتقسيم تقييماتهم بالتساوي تقريبًا، مما يوفر إشارة أخرى إلى أن الفحص البصري وحده لم يعد وسيلة موثوقة للتحقق من صحة المعلومات.
الثقة المفرطة في اكتشاف التزييف العميق تخلق ثغرة خطيرة
يقول حوالي نصف المشاركين في الولايات المتحدة إنهم واثقون من قدرتهم على تحديد التزييف العميق، لكن هذه الثقة تتجاوز النتائج الفعلية بكثير، مما يدل على أن التقييم الذاتي لا معنى له في الواقع.
توجد ضمن هذه المجموعة مجموعة صغيرة ولكنها شديدة الخطورة: ما يقرب من 7٪ من المستخدمين غير دقيقين ولكن لديهم ثقة زائدة في قدراتهم ونادرًا ما يتحققون من المحتوى المشبوه.
يقول بوندار موتشي: “إن فجوة الثقة والكفاءة هذه تخلق إحساسًا زائفًا بالأمان يكون المحتالون على استعداد لاستغلاله”. “عندما يعتقد الناس أنه لا يمكن خداعهم، فإنهم يتوقفون عن البحث عن العلامات. وعندها يكونون أكثر عرضة للخطر، سواء من خلال هوية مزيفة تستخدم في الاحتيال المالي أو مقطع فيديو تم التلاعب به مصمم للتلاعب بالثقة”.
بالنسبة للشركات، فإن الآثار واضحة: أي مؤسسة لا تزال تعتمد على عمليات المراجعة اليدوية أو التقييم الذاتي للعملاء ترث هذه الثغرة الأمنية بشكل مباشر. إن الحكم البشري يشكل ضمانة لا يمكن الاعتماد عليها على نحو متزايد، ويجب دمج التحقق في الأنظمة بشكل افتراضي. وهذا يعني الأتمتة، القائمة على التكنولوجيا والمستقلة عن التقييم الذاتي للمستخدم النهائي لقدرته على التمييز بين الحقيقي والمزيف.
يخاف الأمريكيون من التزييف العميق، لكنهم يثقون في المنصات التي يمكنها التعامل معها
في جميع أنحاء الولايات المتحدة، هناك مخاوف كبيرة بشأن التزييف العميق، حيث قال 79٪ من المشاركين إنهم قلقون إلى حد ما أو قلقون جدًا بشأن الاحتيال الشخصي وانتحال الشخصية.
وتتخلف الولايات المتحدة عن الأسواق الأخرى عندما يتعلق الأمر باستهداف هذه المخاوف. من المرجح أن يثق الأمريكيون بمنصات التواصل الاجتماعي والخدمات الرقمية أكثر من المشاركين في المملكة المتحدة أو البرازيل في تحديد المحتوى الناتج عن الذكاء الاصطناعي وإدارته. ومن الممكن أن يؤدي تفويض المسؤولية هذا إلى تقليل يقظة الأفراد في اللحظة التي يكتسب فيها التهديد زخماً.
ويوضح قائلاً: “إننا نشهد استخدام الهويات الاصطناعية لفتح حسابات مزيفة والسماح بالمعاملات، كما يتم نشر مقاطع فيديو مزيفة لتجاوز عمليات التحقق الأساسية”. “ما يجعل هذا الأمر ملحًا بشكل خاص هو الجمع بين المخاوف الجدية والثقة العالية نسبيًا في المنصة. وهذه الفجوة بين الحماية المتصورة والفعلية هي بالضبط المكان الذي يزدهر فيه الاحتيال.”
لم تكن الحجة التجارية للتحقق الآلي من الهوية أقوى من أي وقت مضى
إن التناقض بين ما يعتقد الأميركيون أنهم قادرون على اكتشافه وما يمكنهم اكتشافه في الواقع ليس مشكلة معرفية سوف تحلها حملات التوعية العامة، بل هو عيب في تصميم أي نظام يثقل كاهل التحقق من الهوية بحكم إنساني مستقل.
إن الاستجابة الفعالة لا تتمثل في إخراج البشر من حلقة التحقق، بل في التوقف عن تكليفهم بمهام لم يعد الإدراك البشري قادراً على القيام بها بشكل موثوق. المنظمات التي تستمر في الاعتماد على مراجعة العملاء اليدوية أو عمليات المصادقة الذاتية تستوعب هذه الثغرة الأمنية في عملياتها.
والبديل هو التحقق الآلي من الهوية القائم على الذكاء الاصطناعي والذي يعمل في لحظة التفاعل، ويكشف الوسائط الاصطناعية قبل أن يصبح القرار البشري ضروريا، ولا يعتمد على قدرة المستخدم النهائي على التمييز بين الواقع والباطل.
يقول بوندار موتشي: “لم تعد الرؤية تعني الإيمان”. “الشركات التي تبني بنية تحتية للتحقق حول هذا الواقع، وليس حول افتراض أنه سيكون خلاف ذلك، هي الأكثر قدرة على الحفاظ على ثقة العملاء مع استمرار تطور مشهد الوسائط الاصطناعية.”
المقالات الدعائية هي محتوى أنشأته شركة تدفع مقابل النشر أو لديها علاقة عمل مع VentureBeat ويتم تمييزها دائمًا بشكل واضح. لمزيد من المعلومات، يرجى الاتصال بنا sales@venturebeat.com.
