يقوم ملايين الأمريكيين بإدخال بياناتهم المالية الأكثر حساسية في روبوتات الدردشة المدعمة بالذكاء الاصطناعي كل يوم دون التفكير مرتين.
يقومون بإدخال أرقام الرواتب، وتحميل المستندات الضريبية، ومشاركة أرصدة الحسابات باستخدام أدوات مثل ChatGPT وGemini، على افتراض أن هذه المحادثات تظل خاصة.
ومع ذلك، يمكن أن يصبح كل طلب بيانات تدريب، ويمكن أن تأتي كل التفاصيل التي تتم مشاركتها بطرق غير متوقعة، بدءًا من الإعلانات المستهدفة بناءً على الظروف الصحية المستنتجة وحتى سرقة الهوية والاحتيال المالي.
يطلق الخبراء في Citizens Bank وجامعة ستانفورد ناقوس الخطر بشأن كيفية بقاء بيانات المستهلك عرضة للخطر في بيئات الذكاء الاصطناعي اليوم.
المدير التنفيذي لبنك المواطنين يثير مخاوف بشأن المشاركة غير المنظمة لبيانات الذكاء الاصطناعي
كريس باول، رئيس الودائع في بنك سيتيزنز قال المال أن المستهلكين يواجهون تعرضًا حقيقيًا عندما يقومون بنقل البيانات المالية الشخصية إلى منصات الذكاء الاصطناعي.
وأوضح باول أن هذه الأدوات تعمل اليوم خارج الإطار التنظيمي الذي يحكم البنوك والمؤسسات المالية التقليدية الأخرى.
يجب على المؤسسات المالية اتباع القوانين الفيدرالية وقوانين الولايات الصارمة التي تحكم كيفية تخزين معلومات العملاء والبيانات الشخصية ومشاركتها وحمايتها.
من ناحية أخرى، تعمل شركات روبوتات الدردشة المدعمة بالذكاء الاصطناعي في ظل خليط من سياسات الخصوصية التي لا يقرأها معظم المستهلكين أبدًا قبل الموافقة على استخدامها.
في الخاص بك إرشادات السلامة عبر الإنترنتيحذر Citizens Bank العملاء من إدخال معلومات شخصية أو مالية مهمة في أي أداة للذكاء الاصطناعي، محذرًا من أن القيام بذلك قد يعرض بياناتهم للخطر.
المزيد من الذكاء الاصطناعي:
- ميكرون في قلب ارتفاع مزدهر للرقائق
- الرئيس التنفيذي لشركة IBM يرسل رسالة قوية حول الذكاء الاصطناعي والحوسبة الكمومية
- الرئيس التنفيذي لشركة Anthropic يقدم اعترافًا صادمًا بشأن الذكاء الاصطناعي
قدم باول حلاً عمليًا للمستهلكين الذين ما زالوا يرغبون في استخدام أدوات الذكاء الاصطناعي لمهام التخطيط المالي وإعداد الميزانية.
بدلاً من إدخال أرقام الرواتب الدقيقة أو أرصدة الحسابات الدقيقة، يمكن للمستخدمين تقديم نطاقات تقريبية للحصول على استجابات مفيدة من أي روبوت محادثة يعمل بالذكاء الاصطناعي.
على سبيل المثال، فإن إدخال نطاق الراتب بدلاً من المبلغ المحدد لا يزال يمنح برنامج الدردشة الآلي سياقًا كافيًا للحصول على مشورة مخصصة.
وأوضح باول لموني أن الأرقام التقريبية تنتج إجابات مفيدة للتخطيط.
يكشف باحثون في جامعة ستانفورد أن شركات الذكاء الاصطناعي تجمع بيانات دردشة المستخدم بشكل افتراضي
دراسة معهد ستانفورد للذكاء الاصطناعي المرتكز على الإنسان، وجدت أن ست شركات أمريكية كبرى في مجال الذكاء الاصطناعي تستخدم محادثات العملاء لتدريب نماذجها اللغوية بشكل افتراضي.
قام فريق البحث، بقيادة زميلة سياسة الخصوصية والبيانات جنيفر كينج، بفحص 28 وثيقة سياسة من الشركات، بما في ذلك OpenAI وGoogle وMeta وAnthropic وMicrosoft وAmazon.
وحذر كينغ من أن المعلومات الحساسة التي تتم مشاركتها في المحادثات مع ChatGPT أو Gemini أو النماذج الرائدة الأخرى يمكن جمعها واستخدامها لتدريب تلك النماذج.
يتضمن ذلك البيانات الموجودة في الملفات التي تم تحميلها، وليس فقط النص المكتوب مباشرة في نافذة المطالبة، وفقا لستانفورد.
لدينا مئات الملايين من الأشخاص الذين يتفاعلون مع روبوتات الدردشة المدعمة بالذكاء الاصطناعي، والتي تجمع البيانات الشخصية للتدريب، ولم يتم إجراء أي بحث تقريبًا لفحص ممارسات الخصوصية لهذه الأدوات الناشئة.
سلط باحثو جامعة ستانفورد الضوء على سيناريو يوضح كيف يمكن أن يكون للتحذيرات غير الضارة عواقب حقيقية على المستهلكين العاديين الذين يستخدمون هذه الأدوات.
قد يؤدي طلب وصفات صديقة للقلب من برنامج الدردشة الآلي إلى قيام الخوارزمية بتصنيفك على أنك معرض للخطر صحيًا، وهو القرار الذي قد يصل في النهاية إلى شركات التأمين.
وخلص كينج إلى أن المجتمع يحتاج إلى تقييم ما إذا كانت المكاسب التي تحققها قدرات الذكاء الاصطناعي من التدريب على بيانات الدردشة تبرر الخسارة الكبيرة لخصوصية المستهلك.
أوصى فريق ستانفورد بتنظيم خصوصية فيدرالي شامل ومتطلبات الاشتراك الإيجابي قبل إدخال بيانات المستخدم في أي نظام تدريب نموذجي.
يحدد المسح الأمني مقدار البيانات الحساسة التي يشاركها الأمريكيون مع الذكاء الاصطناعي
قامت شركة الأمن السيبراني Harmonic Security بقياس مدى انتشار مشكلة الإفراط في المشاركة بين الموظفين الذين يستخدمون أدوات الذكاء الاصطناعي في العمل، وهي النتائج التي تؤكد المخاطر الأوسع التي يواجهها المستهلكون عند مشاركة البيانات الحساسة مع منصات الذكاء الاصطناعي.
ووجدت الشركة أن 4.37% من جميع طلبات الذكاء الاصطناعي تحتوي على معلومات حساسة وأن أكثر من 20% من تحميلات الملفات تتضمن بيانات حساسة. المبلغ عنها المال.
قال أليستر باترسون، الرئيس التنفيذي لشركة Harmonic Security، في رسالة بالبريد الإلكتروني إلى Money، إن النهج الأكثر أمانًا في الوقت الحالي هو تجنب وضع أي معلومات مالية حساسة في نموذج لغة كبير.
وأشار باترسون إلى أن الإفراط في المشاركة أصبح نمطًا مستمرًا، حيث يقوم العديد من المستخدمين بتقديم بيانات أصحاب العمل لكتابة التقارير المالية دون النظر إلى المخاطر النهائية.
وأضافت رامايا كريشنان، أستاذ علوم الإدارة وأنظمة المعلومات في جامعة كارنيجي ميلون، أن الإصدارات القياسية من ChatGPT وGemini تخزن سجل المحادثات الذي قد يكون معرضًا للخطر إذا تم اختراق حساب الذكاء الاصطناعي الخاص بالمستخدم.
وأخبر Money أيضًا أنه يتم أخذ عينات من مجموعة فرعية من محادثات المستخدمين ومراجعتها بواسطة موظفي OpenAI وGoogle لتحسين الجودة.
في أسوأ السيناريوهات، يمكن لأي شخص لديه حق الوصول إلى هذه المحادثات المخزنة سرقة الهوية أو ارتكاب الاحتيال المالي باستخدام البيانات التي يشاركها المستهلك بشكل عرضي.
وهذا الخطر يجعل من الصعب تجاهل التحذيرات المجمعة الصادرة عن بنك Citizens Bank وستانفورد ومحققي الأمن السيبراني لأي أمريكي يستخدم أدوات الذكاء الاصطناعي اليوم.
التفاصيل المالية التي لا ينبغي على الأمريكيين أبدًا إدخالها في طلبات Chatbot التي تعمل بالذكاء الاصطناعي
حدد الخبراء الذين قابلتهم Money فئات محددة من البيانات التي يجب على المستهلكين التعامل معها على أنها محظورة في أي محادثة AI أو تحميل ملف اليوم.
بنك المواطن وتكرر إرشادات أمان الذكاء الاصطناعي هذه النصيحة، حيث تحذر العملاء من إدخال معلومات شخصية أو مالية حساسة في أدوات الذكاء الاصطناعي بسبب خطر التعرض لها.
فئات البيانات المالية للبقاء بعيدًا عن أدوات الذكاء الاصطناعي
- معلومات الحساب البنكي، بما في ذلك أرقام التوجيه والحساب، والتي قد تسمح بعمليات تحويل وسحب غير مصرح بها
- أرقام الضمان الاجتماعي، وتفاصيل حساب الاستثمار، وبيانات اعتماد تسجيل الدخول للوساطة التي يمكن أن تعرض مدخرات التقاعد للجهات الفاعلة السيئة
- كلمات المرور ومعلومات دقيقة عن الرواتب والشيكات وتفاصيل المعاملات وأرصدة الحسابات والمستندات الضريبية السرية
المصدر: مقالة مالية بعنوان لماذا لا يجب عليك أبدًا مشاركة بياناتك المالية مع ChatGPT
لن تغلق فجوة الخصوصية لروبوتات الدردشة المدعومة بالذكاء الاصطناعي نفسها
أصبحت روبوتات الدردشة المدعمة بالذكاء الاصطناعي أدوات قياسية لملايين الأمريكيين الذين يديرون أموالهم، لكن البنية التحتية التي تحمي تلك البيانات لم تواكب الاعتماد عليها.
يشير كل من بنك سيتيزنز بنك وستانفورد والباحثين في مجال الأمن السيبراني الذين قابلتهم مجلة Money إلى نفس الانفصال: يتعامل المستهلكون مع هذه المنصات مثل المستشارين الماليين الخاصين، في حين أن الشركات التي تقف وراءها، وفقًا لدراسة ستانفورد، تتعامل مع معلومات المستخدمين كمواد تدريبية بشكل افتراضي.
دعا فريق ستانفورد إلى تنظيم خصوصية فيدرالية شاملة ومتطلبات الاشتراك الإيجابي قبل استخدام بيانات المستخدم لتدريب النماذج.
وإلى أن تتوفر هذه الحماية، يقول الخبراء الذين استشهدت بهم Money إن خطر مشاركة المعلومات المالية الحساسة مع برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي يقع على عاتق المستخدم الفردي، وليس النظام الأساسي.
ذات صلة: يزداد الذكاء الاصطناعي سوءًا حيث تعمل شركتا Google وAnthropic على إضعاف نماذج الذكاء الاصطناعي والحد من استخدامها
