باستثناء هذا كان لديه صور. ومقاطع الفيديو. وآلاف المتابعين عبر شبكات متعددة، حيث تحصل بعض المنشورات على ملايين المشاهدات. كانت إميلي هارت مؤثرة بشكل كامل، وليس البعض فقط بيضة مجهولة. الشخص الذي قام بتربية إميلي اعترف لسلكي أنه بينما كان الحساب نشطًا، كان يكسب آلاف الدولارات كل شهر من خلال نشر مقاطع فيديو شهوانية لمنافسة OnlyFans والترويج.
منشئ إميلي ليس مطورًا. إنه مجرد طالب مفلس يتمتع بإحساس جيد بالثقافة السياسية الأمريكية وحساب Google Gemini. لكن حالة إميلي هارت الغريبة كشفت كيف أن الذكاء الاصطناعي قد جعل من السهل للغاية على أي شخص تقريبًا إنشاء محتوى مقنع والتلاعب بنظام المشاركة في وسائل التواصل الاجتماعي.
{“blockType”: “mv-promo-block”، “data”:{“imageDesktopUrl”: “https:\/\/images.fastcompany.com\/image\/upload\/f_webp,q_auto,c_fit\/wp-cms-2\/2025\/03\/media-copilot.png”، “imageMobileUrl”: “https” :\/\/images.fastcompany.com\/image\/upload\/f_webp,q_auto,c_fit\/wp-cms-2\/2025\/03\/fe289316- bc4f-44ef-96bf-148b3d8578c1_1440x1440.png”، “eyebrow”:”، “headline”: “\u003Cstrong\u003ESubscribe to The Media Copilot\u003C\/strong\u003E”، “dek”: “هل تريد معرفة المزيد حول كيفية تغيير الذكاء الاصطناعي للوسائط، لا تفوت أبدًا أي تحديث من Pete Pachal، قم بالتسجيل في The Media Copilot لمعرفة المزيد، تفضل بزيارة \u003Ca.UP”، “ctaUrl”: “https:\/\/mediacopilot.substack.com\/”، “theme”: {“bg”: “#f5f5f5″، “text”: “#000000″، “eyebrow”: “#9aa2aa”، “subhed”: “#ffffff”، “buttonBg”: “#00000”. 0″، “buttonHoverBg”: “#3b3f46″، “buttonText”: “#ffffff”}، “imageDesktopId”: 91453847، “imageMobileId”: 91453848، “shareable”: false، “slug”: “”، “wpCssClasses”: “”}}
كما أنه يثير السؤال: هل هناك من يبحث عنا هناك؟ كيف يمكنك معرفة ما هو حقيقي وما لم يعد كذلك؟ ومن المسؤول عن تحذير مستخدمي وسائل التواصل الاجتماعي من أن الصور التي يرونها ربما جاءت من الذكاء الاصطناعي؟
نموذج المؤثر المزيف
لا يتعلق المغزى الرئيسي للقصة بشخص مؤثر واحد في مجال الذكاء الاصطناعي. وهذا هو غيض من فيض. لقد جعل الذكاء الاصطناعي إنشاء شخصيات عبر الإنترنت مثل إميلي أمرًا سهلاً للغاية لدرجة أنه أتاح الخداع على نطاق واسع. تشير قصة Wired إلى مؤثرين مزيفين آخرين مؤيدين لترامب، مثل جيسيكا فوسترولكن ليس عليك أن تبحث كثيرًا في صفحة “استكشاف” في Instagram قبل أن تجد شيئًا تم إنشاؤه بواسطة الذكاء الاصطناعي، ونادرًا ما يتم نشره. تثبت قضية إميلي هارت أن النموذج رخيص وسريع ومربح وسهل النسخ.
الجميع ال رئيسي اجتماعي الشبكات لديك سياسات تحكم محتوى الذكاء الاصطناعي. وعلى الرغم من أنها تختلف في التفاصيل، إلا أن الجوهر هو نفسه بشكل عام: يجب الكشف عن الصور الاصطناعية – خاصة إذا كان من الممكن تفسيرها على أنها حقيقية. و يتضمن الموضوع مواضيع حساسة مثل السياسة والصحة والمالية والأخبار الحالية. إذا لم يتعرف الحساب على محتوى الذكاء الاصطناعي، فقد يتم تجميده أو إلغاء تداوله أو حظره.
لكن هذه العقوبات موجودة بالكامل تقريبًا على الورق. من الناحية العملية، يعد التنفيذ أمرًا صعبًا، ويرجع ذلك جزئيًا إلى أن اكتشاف محتوى الذكاء الاصطناعي يصبح أكثر صعوبة يومًا بعد يوم. معظم أجهزة التصوير الحديثة تتقدم بسنوات ضوئية على النماذج التي أنشأت الأولى فيديو “ويل سميث يأكل السباغيتي”.وأصبحت القطع الأثرية مثل الأصابع الإضافية وشخصيات الخلفية المفقودة إلى حد كبير شيئًا من الماضي. بدون العلامات المائية، حتى الأنظمة الآلية تواجه صعوبة في تحليل صور الذكاء الاصطناعي من الصور الحقيقية بمجرد النظر إليها.
“الملصق الغذائي” الذي يستمر في الضياع
معيار جديد يجب أن يصلح هذا. بيانات اعتماد المحتوى إنها طريقة لتتبع كيفية إنشاء الصورة وتعديلها طوال دورة حياتها. يمكن الاحتفاظ بهذه المعلومات في البيانات الوصفية للصورة حتى يتمكن موقع الويب الذي يعرضها من معرفة ما إذا كانت تم إنشاؤها بواسطة الذكاء الاصطناعي بسهولة أكبر، مما قد يؤدي إلى تمرير تصنيف أو تحذير للمستخدم. الفكرة هي أنه أثناء قيامك بالتمرير عبر موجز التواصل الاجتماعي الخاص بك، سيكون لأي صورة رمز صغير بجانبها سيكشف تاريخها عند النقر عليه.
ومع ذلك، على الرغم من أن هذه التكنولوجيا موجودة منذ سنوات ويبدو أنها تحظى بدعم شركات التكنولوجيا الكبرى مثل Adobe وGoogle وNvidia، إلا أن المنصات الاجتماعية لم تعتمدها باستمرار. رؤية التسمية أمر نادر و تقرير واشنطن بوست وجدت أن الشبكات الاجتماعية غالبًا ما تحذف البيانات الوصفية التي تتيح بيانات اعتماد المحتوى. وهذا ليس أمرًا سيئًا بالضرورة – فهو يتبع أفضل الممارسات المتبعة في الأيام الأولى للويب، عندما كان كل بايت ثمينًا. لكن حقيقة أن هذا لا يزال يحدث تظهر أن هناك القليل من الحماس لإنجاح النظام.
هل ستحدث التسمية فرقًا؟ يقول منشئ إميلي إنه يعتقد أن العديد من متابعيه لا يهتمون بما إذا كانت الصور التي نشرها هي صور ذكاء اصطناعي أم لا. قد يكون هذا صحيحًا بالنسبة للبعض، لكن البيانات تشير إلى أن التصنيفات يمكن أن تغير ميل الأشخاص إلى التفاعل مع محتوى الذكاء الاصطناعي. دراسة 2024 وجدت أن التسميات في الوسائط التي يتم التلاعب بها بواسطة الذكاء الاصطناعي تقلل من الثقة في المطالبات. ووجدت الدراسة أيضًا أن الصياغة مهمة: “مزورة” أو “مزيفة” كان لها تأثير أكبر من مجرد التسميات القائمة على العمليات.
بمعنى آخر، تساعد التسميات، لكن التسميات الضعيفة تساعد بشكل ضعيف. إن علامة “معلومات الذكاء الاصطناعي” المدفونة ليست بمثابة تحذير واضح بأن الصورة قد تمثل شخصًا غير موجود.
تعمل منصات مثل Facebook وInstagram وYouTube وTikTok بالفعل على معالجة المحتوى وتعديله على نطاق واسع. لقد أمضوا عقدين من الزمن في تطوير فن اكتشاف انتهاكات حقوق النشر، والعُري، والبريد العشوائي، وعلامات المشاركة. من الصعب تصديق أنهم غير قادرين على إنشاء تصنيف أكثر وضوحًا للأشخاص الذين ينتجهم الذكاء الاصطناعي.
إنها الحوافز يا غبي
فلماذا لا يفعلون ذلك؟ والإجابة غير المريحة هي أن الحوافز تشير إلى الاتجاه المعاكس. في حين أن المنصات ترغب في إبقاء المحتوى السيئ خارجًا، إلا أنها أكثر تحفيزًا لإبقاء الأشخاص على النشر والتصفح والمشاركة والشراء. تعتبر المواد التي تم إنشاؤها بواسطة الذكاء الاصطناعي مناسبة تمامًا لهذا الجهاز لأنها رخيصة التصنيع، وسهلة التخصيص، ومتوافقة للغاية مع الخلاصات المستندة إلى التفاعل.
كان مارك زوكربيرج صريحًا بشكل غير عادي بشأن هذا الأمر، وصف المواد التي تم إنشاؤها بواسطة الذكاء الاصطناعي باعتبارها “فئة جديدة تمامًا من المحتوى” والتي يعتبرها مهمة لفيسبوك، وإنستغرام، وThreads. هذا لا يعني أن Meta أو أي منصة أخرى تريد أن تتعرض للاحتيال (والتي، مرة أخرى، فئة فرعية من محتوى الذكاء الاصطناعي). لكن هذا يعني أن الشركات لديها سبب تجاري للترحيب بالمزيد من المحتوى الاصطناعي، كما أن جعل التصنيفات قوية للغاية أو مرئية للغاية يمكن أن يقوض المشاركة التي تحاول تشجيعها.
لكن الحساب قد يتغير. يتضمن قانون الذكاء الاصطناعي الأوروبي التزامات الشفافية للتزييف العميق وبعض المحتوى الذي ينتجه الذكاء الاصطناعي للمصلحة العامة، مع دخول القواعد ذات الصلة حيز التنفيذ هذا العام. إذا بدأت المنصات في فرض غرامات باهظة بسبب التصنيف الخاطئ، فقد تتغير الأمور بسرعة. من شأن الضغط الذي يمارسه المعلنون أن يساعد أيضًا، لأن الظهور بجوار محتوى مضلل يعد أمرًا سيئًا للأعمال. وأخيرا، وبشكل حاسم، هناك سلوك الجمهور: إذا بدأ المستخدمون يشعرون بأنهم لا يستطيعون الوثوق بما يرونه على الشبكة، فقد يتوقفون بمرور الوقت عن التفاعل مع تلك الشبكة.
لقد تغير العبء
في الوقت الحالي، تقع مسؤولية اكتشاف محتوى الذكاء الاصطناعي إلى حد كبير على عاتق المستخدم، حيث لا تعطي المنصات الاجتماعية الأولوية للتقدم التقني الذي يمكن أن يساعد، وبدأت الهيئات التنظيمية في التحرك للتو. وقد تتساءل عن المغزى من ذلك – لا شك أن العديد من متابعي إيميلي كانوا يعلمون أنها كانت افتراضية، لكنهم تابعوها، وانخرطوا، وربما صرفوا بعض الأموال على أي حال. ومع ذلك، فإن هذا الاختيار – ما إذا كنت تريد التعامل مع مؤثر افتراضي أم لا، يتم سرقته منك إذا كنت لا تعرف أنه افتراضي.
لقد أمضت صناعة التكنولوجيا سنوات في تقديم المصدر كاستجابة مركزية للوسائط الاصطناعية. قامت Adobe وMicrosoft وMeta وOpenAI وGoogle وغيرها بدعم المعايير، وانضمت إلى الائتلافات، وقدمت التزامات عامة، وأدمجت بيانات اعتماد المحتوى في أدواتها. بخير. فأظهره للناس. اجعلها مرئية قبل المشاركة، قبل المتابعة، قبل الاشتراك، قبل شراء البضائع. لأنه إذا كانت الطريقة الوحيدة لمعرفة أن أحد المؤثرين مزيفين هو انتظار قيام المجلة بالتحقيق، فإن نظام الكشف قد فشل بالفعل.
{“blockType”: “mv-promo-block”، “data”:{“imageDesktopUrl”: “https:\/\/images.fastcompany.com\/image\/upload\/f_webp,q_auto,c_fit\/wp-cms-2\/2025\/03\/media-copilot.png”، “imageMobileUrl”: “https” :\/\/images.fastcompany.com\/image\/upload\/f_webp,q_auto,c_fit\/wp-cms-2\/2025\/03\/fe289316- bc4f-44ef-96bf-148b3d8578c1_1440x1440.png”، “eyebrow”:”، “headline”: “\u003Cstrong\u003ESubscribe to The Media Copilot\u003C\/strong\u003E”، “dek”: “هل تريد معرفة المزيد حول كيفية تغيير الذكاء الاصطناعي للوسائط، لا تفوت أبدًا أي تحديث من Pete Pachal، قم بالتسجيل في The Media Copilot لمعرفة المزيد، تفضل بزيارة \u003Ca.UP”، “ctaUrl”: “https:\/\/mediacopilot.substack.com\/”، “theme”: {“bg”: “#f5f5f5″، “text”: “#000000″، “eyebrow”: “#9aa2aa”، “subhed”: “#ffffff”، “buttonBg”: “#00000”. 0″، “buttonHoverBg”: “#3b3f46″، “buttonText”: “#ffffff”}، “imageDesktopId”: 91453847، “imageMobileId”: 91453848، “shareable”: false، “slug”: “”، “wpCssClasses”: “”}}
رابط المصدر
