يكشف وكيل الذكاء الاصطناعي عن فجوة التغطية السيبرانية الصامتة

إن السياسات السيبرانية التي يعتمد عليها نظام الرعاية الصحية اليوم قد لا تؤتي ثمارها إذا تصرف وكيل الذكاء الاصطناعي من تلقاء نفسه. لا تزال معظم التغطية تتطلب خرقًا أمنيًا لتنشيطها. وهذا الانقسام هو مركز الانقسام الجديد تحليل بواسطة تشيوانيان تشوأستاذ مشارك في الهندسة الكهربائية وهندسة الحاسبات في كلية الهندسة بجامعة نيويورك تاندون. ويوضح كيف يتفوق الذكاء الاصطناعي المستقل على وثائق التأمين التي ينبغي أن تغطيه.

في البداية، يرسم تشو خطًا حادًا بين مخاطر المعلومات ومخاطر الفعل. يقوم برنامج الدردشة الآلي الذي يقوم بتأليف ملاحظة بتوليد المعلومات، ولا يزال الإنسان يقرر ما يجب فعله بها. الوكيل الذي يتصفح أو يتعامل أو يغير السجلات أو يرسل الرسائل يخلق تغييرًا حقيقيًا في العالم. بمجرد أن يتمكن النظام من تغيير البيئة الرقمية أو المادية، فإنه يمكن أن يتسبب على الفور في حدوث ضرر مؤمن عليه. لا أحد يبقى على علم. بالنسبة لأنظمة الرعاية الصحية التي تركز على الوكلاء الذين يلمسون السجل الصحي الإلكتروني أو يقدمون الطلبات، فإن هذا الخط هو الأكثر أهمية.

من السهل تفويت التعرض لأن فقدان الذكاء الاصطناعي للعامل يمكن أن يحدث دون حدوث اختراق. يشير تشو إلى عدة طرق: الهلوسة، والتفكير المعيب، وهجمات الحقن السريعة، والتفويض غير الآمن، والانحراف النموذجي. يمكنهم جميعًا إحداث ضرر حقيقي، حتى لو لم يخترق أي مهاجم الشبكة. تمت كتابة النماذج السيبرانية القياسية حول محفز أمني. ونتيجة لذلك، يمكن أن يكون الخطأ السلوكي الخالص في الذكاء الاصطناعي خارج نطاق اللغة. يسمي هذا التعرض الصامت للذكاء الاصطناعي. لا تعرف شركة التأمين ولا المؤمن له مسبقًا ما إذا كان عطل معين في الذكاء الاصطناعي مغطى أم لا.

الرعاية الصحية على المستوى السيبراني المادي

وتزداد المخاطر مع زيادة الاستقلالية، وينظم تشو المجال باعتباره سلسلة متصلة. يوجد في الأسفل الأدوات التي تولد النص فقط. يوجد في المنتصف مساعدون طيارون يقومون باستدعاء واجهات برمجة التطبيقات وإعداد الإجراءات للحصول على موافقة الإنسان. والأعلى من ذلك هو الوكلاء المستقلون الذين يقومون أيضًا بتنفيذ المعاملات وضبط الأنظمة بأنفسهم. في الأعلى يوجد عملاء ماديون إلكترونيون تصل أفعالهم إلى العالم المادي. تندرج الروبوتات والمعدات الطبية وأدوات التحكم في البناء والبنية التحتية المتصلة ضمن هذا المستوى.

جزء كبير من الرعاية الصحية نشط على هذا المستوى الأعلى. إن نظام الذكاء الاصطناعي المدمج في مضخات التسريب أو معدات التصوير يخاطر بأكثر من مجرد إجابة خاطئة واحدة. وبدلا من ذلك، فإنك تخاطر بأضرار مادية وأضرار في الممتلكات. المسؤولية العامة ومسؤولية المنتج مبنية على الإصابة الشخصية. وهذا يجعلها غير مناسبة عندما يكون السبب هو إخراج رقمي خاطئ. لا يزال التوسع السيبراني المادي للسياسة السيبرانية يتطلب هجومًا سيبرانيًا كمحفز. يؤدي هذا إلى عدم ملاحظة خطأ الذكاء الاصطناعي الخاص بعدم الاختراق. وتغطي كل سياسة جزءًا من الصورة، بينما لا توجد سياسة تمتلك الصورة بأكملها بشكل واضح.

قد يكون النموذج نفسه منخفض المخاطر في تطبيق واحد ومخاطر عالية في تطبيق آخر. ولهذا السبب، يعتقد تشو أن السلطة المفوضة، وليس التكنولوجيا نفسها، هي التي تحدد كيفية تسعير المخاطر. إن مساعد الأبحاث الذي يقف خلف طبقات من الموافقة لا يشبه وكيلًا يتعامل مع العملاء ولديه إذن بتحويل الأموال. قد تتضمن أسئلة القبول ما يلي: ما الذي يمكن للوكيل فعله دون تأكيد بشري، وما الأنظمة التي يمكنه تعديلها، وما هي المنافذ والسجلات التي تتحكم فيه؟

ما يمكن أن تفعله أنظمة الرعاية الصحية الآن

تركز وصفة Zhu على إنهاء الصمت قبل وصول المطالبة. يجب أن تكون تغطية سلوك الذكاء الاصطناعي مكتوبة بشكل إيجابي، مع محفزات واضحة، واستثناءات واضحة، ومجاميع منفصلة. علاوة على ذلك، يضمن هذا الهيكل أن فقدان الذكاء الاصطناعي يمكن أن يستهلك بصمت الحد السيبراني بأكمله. تثير الأحداث المختلطة سؤالًا أكثر صعوبة عندما يتداخل الاختراق وانقطاع الخدمة وإجراءات الذكاء الاصطناعي. هنا، تحدد قواعد التعيين المحددة مسبقًا التغطية التي تستجيب. وإلا فإن السؤال سينتهي إلى نزاع ما بعد الخسارة. تجمع المنتجات المنسقة التي تظهر الآن في السوق بين الأخطاء والسهو السيبراني والتكنولوجي ومسؤولية الذكاء الاصطناعي المستقلة بموجب مجموعة واحدة من القواعد.

والدليل هو النصف الآخر من المعادلة. يؤكد Zhu على أن السجلات وتتبعات الأدوات وتاريخ النماذج والإصدارات وسجلات الموافقة وتاريخ التراجع غالبًا ما تحدد سبب الخسارة. ومع ذلك، بدون هذا القياس عن بعد، يصبح من المستحيل تقريبًا إعادة بناء ما فعله العميل. ويمكن بعد ذلك أن يعلق الادعاء على السؤال الأساسي حول ما حدث. بالنسبة لأنظمة الرعاية الصحية، يعكس هذا النظام الذي يعرفونه بالفعل من إدارة الأجهزة والسجل الصحي الإلكتروني. قم بتجهيز النظام، والاحتفاظ بالسجلات، ومعرفة ما هو مسموح به لكل أداة.

خذها بعيدا

• قم بتخطيط كل تطبيق للذكاء الاصطناعي على مستوى الحكم الذاتي. إن السلطة التي يتمتع بها الوكيل، وليس النموذج الذي يقف وراءه، هي التي تحدد فرص الخسارة وحجمها.
• تعامل مع أخطاء الذكاء الاصطناعي دون خرق باعتبارها تعرضًا حقيقيًا. الهلوسة، والحقن السريع، وانجراف النماذج يمكن أن تسبب الخسارة دون انتهاك، وقد لا تستجيب النماذج السيبرانية القياسية.
• اسأل ما إذا كان سلوك الذكاء الاصطناعي يتم تغطيته بشكل إيجابي. الإضاءة الصامتة تبقي الطرفين في حالة تخمين؛ المشغلات الصريحة والمجاميع المنفصلة تزيل الغموض.
• اضغط للحصول على قواعد التعيين للأحداث المختلطة. عندما تتداخل الانتهاكات وانقطاع الخدمة وإجراءات الذكاء الاصطناعي، تحدد المهمة المحددة مسبقًا السياسة التي ستؤتي ثمارها.
• حفظ مسار الأدلة. غالبًا ما تحدد السجلات وسجلات النماذج والإصدارات وتاريخ الموافقة وبيانات التراجع ما إذا كانت المطالبة ناجحة أم لا.

وترتفع المخاطر بشكل أسرع على المستوى السيبراني المادي. ينصح تشو أنظمة الرعاية الصحية بإدارة حالة عدم اليقين بشكل مباشر بدلاً من انتظار بيانات الخسارة التي قد لا تصل أبدًا في الوقت المحدد. يمكن لأي نظام الآن أن يبدأ بتحديد ما يُسمح لعملائه بفعله وتوثيق ما فعلوه بالفعل.

مقالات ذات صلة