شهد عام 2025 زيادة حادة في حالات الاحتيال، حيث سرق المجرمون ما مجموعه 629.3 مليون جنيه إسترليني في الأشهر الستة الأولى وحدها، وتم تأكيد 2.09 مليون حالة احتيال مصرح به وغير مصرح به.
عبر الخدمات المصرفية والتأمين والحكومة، تستخدم فرق مكافحة الاحتيال الذكاء الاصطناعي (AI) لمكافحة الجيل القادم من التهديدات سريعة التطور.
مدير حلول الاحتيال في أوروبا والشرق الأوسط وأفريقيا، Quantexa.
يتمتع الذكاء الاصطناعي بإمكانات هائلة: فهو قادر على اكتشاف الأنماط التي يغفل عنها البشر، وتحليل مليارات السجلات على الفور، والقضاء على النتائج الإيجابية الكاذبة.
ومع ذلك، تواجه العديد من المؤسسات واقعًا محبطًا – حيث أن تطبيق المزيد من النماذج لا يؤدي تلقائيًا إلى تقليل خسائر الاحتيال.
نحن نسمي هذا التوتر مفارقة الذكاء الاصطناعي.
ما هي مفارقة الذكاء الاصطناعي؟
وتكمن المفارقة في التناقض بين الإمكانات النظرية للذكاء الاصطناعي وأدائه الفعلي في مجال الجريمة المالية الفوضوي وعالي المخاطر.
ويحدد هذا الانفصال العديد من التوترات الرئيسية. أولاً، هناك تناقض بين كمية البيانات وفائدتها. في حين أن بيانات المعاملات الإجمالية هائلة، فإن حالات الاحتيال المؤكدة نادرة إحصائيا، مما يجعل من الصعب تدريب نماذج دقيقة.
وفي الوقت نفسه، يعتمد المحتالون مجرد أدوات الذكاء الاصطناعي. باستخدام الذكاء الاصطناعي التوليدي (GenAI)، يمكنهم تكييف التكتيكات بسرعة لأتمتة إنشاء المعرفات المزيفة والمستندات الاصطناعية وحملات التصيد الاحتيالي على نطاق واسع.
أصبحت السرعة ميزة رئيسية. ومع ذلك، فإن تحديد أولويات السرعة غالبًا ما يؤدي إلى نماذج الصندوق الأسود التي لا تولي اهتمامًا كبيرًا لقابلية التفسير. ورغم أن هذه النماذج قد تكون فعّالة، فإن القرارات التي لا يمكن تبريرها للجهات التنظيمية أو المحققين سرعان ما تتحول إلى مسؤولية وليست أصلاً.
وأخيرا، على الرغم من تزايد الاستثمار في الذكاء الاصطناعي، فإن كيفية قياس الأداء تظل تحديا. يعد تحديد الملايين من الأحداث المشبوهة أمرًا سهلاً نسبيًا؛ وتكمن القيمة الحقيقية في إعطاء الأولوية للعناصر القليلة التي تتطلب التدخل البشري. يؤدي تحديد الأولويات بشكل أكثر ذكاءً إلى تقليل عبء عمل التحقيق والكشف عن الحالات الأكثر أهمية.
ويتفاقم هذا التحدي بسبب البيانات المجزأة الواردة من مؤسسات متباينة، والتي غالبا ما تكون مقيدة بالعزلة التنظيمية والتشغيلية. إن الجمع بين مصادر البيانات هذه يمنح الذكاء الاصطناعي صورة أكثر اكتمالاً، ويحسن عملية صنع القرار، ويزيد الدقة، ويتيح سير عمل أكثر كفاءة.
GenAI: المسرع العظيم
قد يكون الذكاء الاصطناعي محايدا من حيث المبدأ، ولكن توفره لجميع الأطراف يؤدي إلى تعميق مفارقة جوهرية. لقد أصبحت تقنية متطورة ذات استخدام مزدوج.
بالنسبة للمدافعين، يقوم GenAI بتسريع عملية الكشف وتحسينها العناية الواجبة تجاه العملاء وكشف المخاطر الخفية بسرعة غير مسبوقة. بالنسبة للخصوم، يتم استخدامه لإنشاء هجمات هندسة اجتماعية مقنعة، وأتمتة الاحتيال القائم على الروبوتات، وإنشاء هويات اصطناعية تقوض الثقة الرقمية.
وعلى عكس المنظمات الخاضعة للتنظيم، يعمل المجرمون دون قيود. وقد نجحت أدوات مثل FraudGPT وWormGPT في خفض الحواجز أمام الدخول، مما مكن حتى الجهات الفاعلة ذات المهارات المنخفضة من شن هجمات معقدة عبر الحدود بأقل تكلفة.
وفي الوقت نفسه، ترغب المؤسسات في استخدام GenAI للاستعلام عن البيانات وتلخيص الحالات المعقدة. ويتطلب ذلك إطارًا إداريًا قويًا للتخفيف من التحيز وحماية الخصوصية وضمان الشفافية.
الأزمة بين الصناعات
لا يقتصر تأثير GenAI على قطاع واحد؛ يمثل تحولًا منهجيًا في كيفية إنشاء الاحتيال وتوسيع نطاقه.
وفي مجال الخدمات المصرفية، فإنه يتيح التوسع السريع لشبكات الحسابات الوهمية وحملات التصيد التي تخفي فيها الهويات الاصطناعية النشاط الإجرامي.
في مجال التأمين، تقوم حلقات الاحتيال المنظمة بتلفيق مطالبات كاملة، بما في ذلك السجلات الطبية وصور الحوادث بمستوى من الواقعية يصعب اكتشافه بشكل متزايد.
وتواجه أنظمة القطاع العام ضغوطا مماثلة، حيث تستهدف برامج الضرائب والإعانات الأفراد الاصطناعيين، مدعومة بأدلة رقمية مقنعة ولكنها ملفقة تماما.
التغلب على المفارقة
وبدون سياق، يظل الذكاء الاصطناعي معزولاً ومتفاعلاً وضعيفاً. ولحل هذه المشكلة، تتجه المؤسسات إلى ذكاء القرار (DI)، وهو نهج يتجاوز تطبيق الذكاء الاصطناعي ويحتضن فهم السياق. يتيح ذلك اكتشاف العلاقات والسلوكيات التي غالبًا ما تكون مفقودة في النماذج التقليدية.
من خلال ربط نقاط البيانات، يمكن للمؤسسات التعرف على الكيانات عبر الأشخاص والشركات والمقاولين، مما يؤدي إلى إنشاء صورة موحدة للمخاطر. يدعم هذا المنظور الشامل اتخاذ قرارات أكثر استنارة ويساعد في تحديد السلوك المشبوه عبر نقاط الاتصال المتعددة، بما في ذلك المحتالين المتواطئين وشبكات الاحتيال التي قد تظل مخفية لولا ذلك.
تعمل إمكانية التشغيل البيني على تعزيز هذا النهج من خلال دمج الأنظمة الحالية مع بيانات الطرف الثالث، وإغلاق الثغرات التي يستغلها المحتالون.
والأهم من ذلك أن السياق يتناول أيضًا مشكلة “الصندوق الأسود”. ومن خلال توفير الأساس المنطقي للتنبيهات، يصبح الذكاء الاصطناعي أكثر شفافية وقابلية للفهم بالنسبة للباحثين والجهات التنظيمية. وهذا يبني الثقة ويدعم الاعتماد على نطاق أوسع ويزيد من فعالية الذكاء الاصطناعي في منع الاحتيال.
من التناقض إلى التقدم
ولم يعد السؤال ما إذا كان سيتم استخدام الذكاء الاصطناعي، ولكن من الذي سيستخدمه بشكل أكثر فعالية. إن مجرد وضع المزيد من الذكاء الاصطناعي فوق الأنظمة الحالية لن يهزم المحتالين – فلديهم إمكانية الوصول إلى نفس الأدوات.
الذكاء الاصطناعي في حد ذاته مجرد أداة. إلى جانب الرؤية السياقية والكشف على مستوى الشبكة، يصبح دفاعًا. للبقاء في صدارة عمليات الاحتيال، يجب على المؤسسات تجاوز النماذج المعزولة والبدء في رؤية الشبكة، وكيفية اتصال الكيانات وتفاعلها وتطورها بمرور الوقت.
وهذا يعني دمج الذكاء الاصطناعي مع بيانات أكثر ثراءً وسياقًا أوسع لتقليل النقاط العمياء ونقاط الضعف التي يستغلها المحتالون.
تم إنشاء المقالة كجزء من توقعات TechRadar بروتعرض قناتنا أفضل وألمع العقول في صناعة التكنولوجيا اليوم.
الآراء الواردة هنا هي آراء المؤلف وليست بالضرورة آراء TechRadarPro أو Future plc. إذا كنت مهتمًا بالتعاون، يمكنك العثور على مزيد من المعلومات هنا: https://www.techradar.com/pro/perspectives-how-to-submit
