يمكن للقياسات الحيوية السلوكية أن تحل مشكلة مساحات العمل المشتركة

البودكاست: العب في نافذة جديدة | تحميل (المدة: 47:35 — 43.6 ميجابايت)

الاشتراك: أبل بودكاست | سبوتيفي

يشرح داود جوردون، دكتوراه، والرئيس التنفيذي والمؤسس المشارك لشركة Twosense، وهي شركة ناشئة للأمن السيبراني مقرها بروكلين، كيف يمكن للقياسات الحيوية السلوكية أن تحل مشكلة المصادقة بدون كلمة مرور في الرعاية الصحية. في هذه الحلقة من سلسلة مقابلات Partner Perspective، المسجلة في مؤتمر ViVE، يصف جوردون سبب فشل الأدوات التقليدية مثل Windows Hello ومفاتيح المرور في البيئات السريرية التي تحتوي على محطات عمل مشتركة، وكيف يتعلم برنامج شركته التعرف على المستخدمين عن طريق أنماط الكتابة والماوس. كما أنه يشارك وجهة نظر دقيقة حول المجالات التي يساعد فيها الذكاء الاصطناعي التوليدي والمجالات التي يشكل فيها مخاطر جسيمة.

تواجه المصادقة بدون كلمة مرور مشكلة تتعلق بالرعاية الصحية. يبيع العشرات من البائعين هذه التكنولوجيا، وبالنسبة لمعظم المؤسسات، يكون التنفيذ بسيطًا: اختر حلاً، وقم بتكوينه، والمضي قدمًا. أنظمة الرعاية الصحية لا تستطيع أن تفعل ذلك. إن البيئة السريرية – محطات العمل المشتركة في غرف المرضى، والأطباء الذين يرتدون معدات الحماية الشخصية، والهواتف غير المسموح بها على الأرض – تتفوق على الأدوات التي تعمل في أي مكان آخر. قضى داود جوردون، دكتوراه، والرئيس التنفيذي والمؤسس المشارك لشركة Twosense، وهي شركة ناشئة للأمن السيبراني مقرها بروكلين، سنوات في بناء منتج مصمم للعمل بالضبط حيث يفشل كل شيء آخر.

البودكاست: العب في نافذة جديدة | تحميل (المدة: 47:35 — 43.6 ميجابايت)

الاشتراك: أبل بودكاست | سبوتيفي

وتتجلى المعضلة بشكل مماثل في مختلف أنظمة الرعاية الصحية. يقوم فريق الهوية بتقييم الخيارات بدون كلمة مرور ويرى بسرعة أن التعرف على الوجه أو رموز المرور أو Windows Hello مناسبة أيضًا للعاملين غير السريريين. ثم ينظرون إلى نقاط النهاية السريرية: الأجهزة المشتركة حيث يتعين على كل طبيب التسجيل على كل جهاز، والبيئات التي تكون فيها أجهزة القياسات الحيوية غير عملية، وسير العمل حيث يؤدي أي احتكاك إلى إبطاء رعاية المرضى. توقف المشروع بسبب رفض القيادة نشر تجربة مجزأة باستخدام طريقة تسجيل دخول واحدة على الأجهزة الإدارية وأخرى بجانب السرير. وتكون النتيجة غالبًا نقرة على شارة يتبعها 10 أو 15 إدخالًا لكلمة المرور على مدار نوبة العمل، أو نقرة شارة واحدة دون أي مصادقة إضافية. يمثل كلا الخيارين مقايضة بين السلامة وسهولة الاستخدام، والتي يصفها جوردون بأنها غير قابلة للإدارة في ظل متطلبات الرعاية السريرية.

يعالج برنامج Twosense هذه المشكلة من خلال برنامج يعمل على الأجهزة المشتركة ويتعلم كيفية التعرف على المستخدمين الفرديين من خلال الطريقة التي يكتبون بها ويحركون الماوس. يتعامل النظام مع هذه الأنماط السلوكية باعتبارها قياسات حيوية ويربطها بتدفقات المصادقة الحالية، بحيث تتم المصادقة متعددة العوامل بشكل غير مرئي. عندما يكتشف النظام شخصًا آخر غير المستخدم المصرح له (على سبيل المثال، طبيب يبتعد ويجلس شخص آخر)، فإنه يحدد الجلسة في غضون ثوانٍ ويطلق استجابة سياسية من خلال أي منصة هوية يستخدمها نظام الرعاية الصحية بالفعل، سواء كان Ping Identity أو Okta أو Microsoft Entra.

من فيلق الإشارة إلى SOC

إن المفهوم الكامن وراء القياسات الحيوية السلوكية ليس جديدا. يتتبع جوردون الأمر إلى الحرب العالمية الثانية، عندما تمكن مشغلو فيلق الإشارة من التعرف على موظفي اتصالات العدو من خلال أنماط التنصت المميزة على شفرة مورس، والمعروفة باسم “قبضتهم”. المبدأ هو نفسه: يُظهر الأشخاص توقيعات سلوكية متسقة ويمكن تحديدها. الجديد هو أن هذا المبدأ قد تحول إلى برنامج مؤسسي يعمل على نطاق واسع كأداة مصادقة في الوقت الفعلي.

كان الطريق إلى الرعاية الصحية يمر عبر الأوساط الأكاديمية ووزارة الدفاع. حصل جوردون على درجة الدكتوراه من معهد كارلسروه للتكنولوجيا في ألمانيا، وقضى فترة في ETH زيوريخ، حيث أجرى بحثًا في أنظمة الذكاء الاصطناعي التي تفسر السلوك البشري باستخدام بيانات السلاسل الزمنية. بعد ترك المجال الأكاديمي، أسس شركة Twosense وفاز بعقد مع وزارة الدفاع، التي كانت تبحث عن تقنية المصادقة المستمرة لتأمين الأجهزة المحمولة واكتشاف الاستخدام غير المصرح به للهواتف العسكرية في الوقت الفعلي. تخلت الشركة في النهاية عن عقد دفاعي كبير للتركيز على القطاع الخاص، على أمل أن يؤدي بناء الرعاية الصحية أولاً إلى إنشاء أساس أقوى. لقد وفرت أنظمة الرعاية الصحية التركيبة التي كان جوردون بحاجة إليها: أولوية السلامة على أعلى مستوى، وقوة عاملة تعاني من الألم كل يوم، وصناع القرار الذين يتمتعون بسلطة الميزانية لحل هذه المشكلة.

وقال جوردون: “ليس هناك منافسة على هذا على وجه التحديد. وهذا ليس لأن الآخرين لم يحاولوا، لقد فعلوا ذلك”. لقد عُرضت على بعض العملاء منتجات مماثلة في الماضي ولكن لم يتم تسليمها. يقاوم برنامج Twosense هذه الشكوك من خلال العروض التوضيحية الحية التي يرى فيها العملاء المحتملون كيف يكتشف النظام مستخدمًا غير مصرح به بناءً على السلوك وحده، يليه إثبات للمفهوم لمدة 90 يومًا، ويستهدف عادةً ثلاثة تطبيقات ذات حركة مرور عالية وحوالي 60 مستخدمًا في طابق واحد بالمستشفى.

يبدأ التنفيذ كحل نقطي يرتبط بتسجيل الدخول الموحد الحالي لنظام الرعاية الصحية ومكدس المصادقة متعدد العوامل. بعد ستة أشهر، يقول جوردون، بدأ العملاء في العثور على استخدامات إضافية: جمع درجات الثقة المستمرة في استطلاعات الخصوصية، على سبيل المثال للتحقق مما إذا كان الموظف الذي تم الإبلاغ عنه كان بالفعل يستخدم لوحة المفاتيح عند فتح سجل طبي. ينتقل المنتج إلى مركز سياسة الهوية، ويتطور من حل نقطي إلى شيء أقرب إلى النظام الأساسي.

تحليل مخاطر الذكاء الاصطناعي التوليدي

بعد بناء أنظمة الذكاء الاصطناعي من خلال ثلاث دورات تكنولوجية مختلفة، قدم جوردون تقييمًا صريحًا لقيمة الذكاء الاصطناعي التوليدي داخل شركته. على جانب المنتج، حيث يكتب المهندسون وكلاء نقطة النهاية، ورمز API، وتكاملات OIDC، يوفر مساعدو ترميز الذكاء الاصطناعي التوليدي زيادة في السرعة تبلغ حوالي 15 إلى 20 بالمائة. على المستوى المتوسط: محرك الأحداث في الوقت الحقيقي الذي يعالج الإشارات السلوكية ويعيد قرارات المصادقة، تنخفض الأرباح إلى نقطة التعادل، أو حوالي 5 في المائة، بسبب قلة بيانات التدريب على الإنترنت لهذا النوع من العمل. في الطبقة الأساسية للتعلم الآلي، حيث يتم ضبط الخوارزميات بشكل متكرر وفقًا لمقاييس الدقة التي تركز على العملاء، فإن الذكاء الاصطناعي التوليدي يدمر كل شيء. النظام متخصص جدًا، والعمل جديد جدًا، وهامش الخطأ صغير جدًا بحيث لا يجعل إكمال التعليمات البرمجية الشائعة آمنًا.

تشكل هذه الخبرة الداخلية الأساس لنصيحة جوردون الأوسع لقادة أمن الرعاية الصحية. المتغير الحرج هو تكلفة الخطأ. يتفوق الذكاء الاصطناعي التوليدي في المهام كبيرة الحجم ومنخفضة المخاطر: على سبيل المثال، عمليات المبيعات الآلية، حيث تكلف رسالة بريد إلكتروني فاشلة مبلغًا زهيدًا. يتغير ملف تعريف المخاطر بشكل كبير عندما تتلامس التكنولوجيا مع العمليات الأمنية. يقول جوردون: “في أي مكان أستخدم فيه الذكاء الاصطناعي التوليدي، والتكلفة إذا حدث خطأ ما يمكن أن تكون مرتفعة، حتى لو كانت الفرصة صغيرة مع وجود حجم كافٍ، هذا هو المكان الذي أشعر فيه بالتوتر”. وأشار إلى التنبيهات الأمنية التي تمت تصفيتها بواسطة الذكاء الاصطناعي باعتبارها مشكلة محددة: إن إسكات الإشعار الوحيد الذي يحتاج المحلل إلى رؤيته هو فشل له عواقب أكبر.

قال جوردون: “إذا كان الكمال مطلوبًا لكي تعمل شركة ما، فلن يكون لديك عمل ولن يكون لديك عمل أبدًا”. “من الأهم تقريبًا التركيز على كيفية تحديد متى يرتكب الذكاء الاصطناعي خطأً وكيفية الحد من تأثيره.”

لقد أوضح هذه النقطة من خلال هجوم تصيد حقيقي على أحد عملاء Twosense. اشترى أحد المنافسين نطاقًا فريدًا لبوابة كشوف المرتبات، واشترى إعلانات على شبكة البحث لجذب حركة المرور، ونفذ هجومًا وسيطًا حصل على بيانات اعتماد تسجيل الدخول والموافقة الثنائية في الوقت الفعلي. العمال الذين سقطوا في الهجوم ارتكبوا خطأ بشريا واضحا؛ لقد بحثوا في Google عن موقع كشوف المرتبات بدلاً من كتابة عنوان URL. اكتشف المحرك السلوكي لـ Twosense، الذي يعمل في الخلفية، ما فاته البشر: التوقيع السلوكي للمهاجم لم يتطابق مع المستخدم المصرح له، حتى بعد أن قام المهاجم بمسح كل بوابة أمنية تقليدية.

وقال جوردون إن الدرس المستفاد هو أن الذكاء الاصطناعي والبشر يرتكبون أنواعًا مختلفة من الأخطاء، والقيمة الحقيقية تكمن في الربط بينهما بحيث يتم إلغاء تلك الأخطاء. وفيما يتعلق بخط المواهب، حذر من أن المنظمات التي تتوقف عن توظيف مهندسين مبتدئين لأن الذكاء الاصطناعي يمكنه التعامل مع وظائف المبتدئين ستواجه نقصًا خطيرًا في المواهب العليا في غضون خمس إلى عشر سنوات لأن الذكاء الاصطناعي لا يتحسن مع الخبرة كما يفعل البشر.

خذها بعيدا

• قبل إطلاق مبادرة بدون كلمة مرور، حدد كيفية عملها على محطات العمل السريرية المشتركة؛ هذا هو المكان الذي تتعثر فيه معظم المشاريع
• تقييم تطبيقات الذكاء الاصطناعي على أساس تكلفة الخطأ؛ تعد المهام كبيرة الحجم ومنخفضة العواقب أكثر أمانًا للتشغيل الآلي
• استخدم الذكاء الاصطناعي لاستكمال الحكم البشري من خلال ربط الأنظمة التي ترتكب أنواعًا مختلفة من الأخطاء، بحيث يتم إبطال الأخطاء
• فكر مرتين قبل تطبيق الذكاء الاصطناعي التوليدي على تصفية التنبيهات الأمنية؛ إن استبعاد الرسالة الخاطئة هو فشل له عواقب متتالية
• يشير خطأ تصميم الذكاء الاصطناعي إلى الفشل بشكل صحيح: إعادة إدخال المستخدم لكلمة المرور أفضل بكثير من وصول المهاجم إلى النظام دون أن يلاحظه أحد
• استمر في توظيف المهندسين المبتدئين؛ يقوم الذكاء الاصطناعي اليوم بمهام المبتدئين ولكنه لا يتطور إلى موهبة عليا بمرور الوقت

احتفظ جوردون بأقصى تحذيراته بشأن خط المواهب. إن المؤسسات التي تتوقف عن توظيف المهندسين المبتدئين اليوم لأن الذكاء الاصطناعي التوليدي يتعامل مع وظائف البرمجة للمبتدئين ستواجه نقصًا خطيرًا في المواهب العليا خلال خمس إلى عشر سنوات. وقال: “إن الذكاء الاصطناعي لا يتحسن مع الخبرة كما يفعل البشر”. “ما زلت بحاجة إلى أن ينمو الناس من خلال الرتب.”