كيف تعمل مدينة الأمل على توسيع نطاق حوكمة الذكاء الاصطناعي

يشرح سايمون نازاريان سبب قيام City of Hope ببناء حوكمة الذكاء الاصطناعي في أساسها الفني لتجاوز الطيارين وضمان رعاية سريرية آمنة وواسعة النطاق.

قامت City of Hope ببناء منصة ذكاء اصطناعي توليدية خاصة بها تعمل على تحويل آلاف الصفحات من السجلات الطبية للمرضى إلى ملخصات سريرية قابلة للتنفيذ في ثوانٍ، مما يوفر على الأطباء من الاضطرار إلى إعادة النظر في مخططاتهم لساعات وتسريع عملية مطابقة مرضى السرطان مع التجارب السريرية. تعد المنصة، التي تسمى HopeLLM، أساسية لاستراتيجية الذكاء الاصطناعي الأوسع التي تدفع سايمون نازاريان، نائب الرئيس التنفيذي للأنظمة والرئيس التنفيذي الرقمي والتكنولوجيا في City of Hope، عبر الشبكة الوطنية للمنظمة من مراكز السرطان في جنوب كاليفورنيا وأريزونا وإلينوي وجورجيا.

تأسست مدينة الأمل عام 1913، وهي واحدة من أكبر منظمات أبحاث وعلاج السرطان في البلاد. حصل مركز السرطان الشامل المعين من قبل NCI على أعلى تصنيف للمعهد “استثنائي”، وتوفر مواقعه الوصول إلى أكثر من 86 مليون أمريكي. انضم نازاريان في سبتمبر 2024 بعد أربع سنوات كرئيس تنفيذي للمعلومات في Optum Health، وتتضمن سيرته الذاتية أدوارًا قيادية في McKinsey & Company وKaiser Permanente وSony Pictures Entertainment. توضح هذه التجربة عبر الصناعة اعتقاده بأن تكنولوجيا الرعاية الصحية التي تركز على المريض يجب أن تلبي نفس توقعات المستهلك مثل الترفيه وتجارة التجزئة.

البودكاست: العب في نافذة جديدة | تحميل (المدة: 43:08 — 39.5 ميجابايت)

الاشتراك: أبل بودكاست | سبوتيفي

محرك الذكاء الاصطناعي لعلاج الأورام

يستخدم HopeLLM العديد من نماذج الذكاء الاصطناعي التجارية ومفتوحة المصدر، المدعومة ببيانات ملكية City of Hope التي تغطي أكثر من قرن من علاجات السرطان ونتائجها. تتناول المنصة الكم الهائل من الوثائق التي تأتي مع كل مريض أورام. باعتبارها مركز إحالة رئيسي، تتلقى City of Hope ما بين 2000 إلى 3000 صفحة من البيانات لكل مريض وارد. تاريخيًا، كان الأطباء يقضون ساعات في الأمسيات وعطلات نهاية الأسبوع في مراجعة هذه البيانات استعدادًا لمواعيد اليوم التالي. تقوم HopeLLM بتجميع هذه المعلومات في ملخصات موجزة ومنظمة متاحة في نقطة الرعاية، مما يقلل وقت التحضير بمقدار ساعتين إلى ثلاث ساعات لكل مريض.

تقوم المنصة أيضًا بأتمتة مطابقة التجارب السريرية في كلا الاتجاهين. عند وصول المريض، تحدد HopeLLM الدراسات المؤهلة بناءً على البيانات الجينومية والمحددات الاجتماعية للصحة والتاريخ السريري. عند فتح دراسة جديدة، يقوم النظام بمسح مجموعات المرضى الحالية للعثور على المرشحين. وأشار نازاريان إلى توقعات الصناعة بأن أدوات مطابقة العلامات الحيوية للمريض المدعومة بالذكاء الاصطناعي يمكن أن تحسن المشاركة في التجارب السريرية بنسبة تصل إلى 26%. وقال: “عندما يأتي مريض إلينا، تتاح لنا الفرصة لمعرفة التجارب السريرية المناسبة له وإلى أي مدى”. “إذا أردنا اجتياز التجارب السريرية، فيمكننا أيضًا ربط المرضى بتلك التجارب.”

تسمح قدرات معالجة اللغة الطبيعية للأطباء والباحثين بالتفاعل مباشرة مع HopeLLM في نقطة الرعاية، والاستعلام عن النظام للحصول على بيانات سريرية أو بحثية محددة. تأتي الكثير من بيانات المرضى الواردة في شكل غير منظم، بما في ذلك الملاحظات والصور والسجلات بتنسيقات مختلفة من مقدمي الرعاية الصحية المحالين. تقوم HopeLLM بمعالجة تلك البيانات غير المنظمة، وتنظيمها للاستخدام الخوارزمي، ودمجها مع البيانات المنظمة الحالية للمؤسسة. تستخدم المنصة بروتوكولات نقل المعلومات القائمة على المعايير، بما في ذلك FHIR وHL7، ولكن يظل التركيز على جعل العملية بسيطة قدر الإمكان للمرضى ومقدمي الرعاية الصحية المحولين.

الإدارة مبنية من الداخل

نازاريان شغوف بإدارة الذكاء الاصطناعي ويرفض فكرة إمكانية دمجها في أنظمة الذكاء الاصطناعي بعد النشر. يجب أن تكون مصممة في الهندسة المعمارية من البداية. وهذا يعني التحول من الإشراف الخارجي إلى المساءلة الراسخة، حيث يعيش منطق الحوكمة داخل النموذج نفسه. ويعني التعامل مع الذكاء الاصطناعي باعتباره مشاركا في صنع القرار، لأنه إذا لم يتمكن أحد من تفسير من المسؤول عندما يخطئ الذكاء الاصطناعي، فسوف تنهار الثقة بسرعة. ويعني التحول من السياسة الثابتة إلى ما يسميه “الحوكمة التحادثية”، حيث تقوم أنظمة الذكاء الاصطناعي بمراقبة السلوك، والإبلاغ عن الحالات الشاذة، ومكافحة الطلبات غير الآمنة في الوقت الفعلي.

وقال نازاريان: “إن الحوكمة المسؤولة للذكاء الاصطناعي لا تتعلق بإبطاء الابتكار”. “يتعلق الأمر بضمان ألا يتجاوز الابتكار مطلقًا المسؤولية السريرية.” وشدد على أن الشفافية في الذكاء الاصطناعي لا يمكن أن تكون فلسفية بحتة. إن نشر الخرائط النموذجية والأمل في أن يقرأها شخص ما لا يؤدي إلى نتائج. إن القابلية للتفسير في وقت اتخاذ القرار هي ما يبني الثقة، حتى لو لم تكن النتائج مثالية. وفي سياق الرعاية الصحية، فإن لهذا المبدأ أهمية خاصة. لا يتم منح أي خوارزمية سلطة أخلاقية. يجب أن تعمل الحدود السريرية وإمكانية التتبع ومراقبة التحيز كعمليات حية، مع تضمين موافقة المريض في التصميم.

يعد الانجراف النموذجي مصدر قلق أساسي. عندما تتعلم أنظمة الذكاء الاصطناعي من البيانات والتفاعلات الجديدة، قد ينحرف سلوكها عن الخصائص والعلاقات الإحصائية التي تم تدريبها عليها. ووصف نازاريان ذلك بأنه ظاهرة طبيعية تتطلب مراقبة مستمرة. تواجه المنظمات التي تعمل في ولايات متعددة، مثل City of Hope، التعقيد الإضافي للبيئات التنظيمية المختلفة. تتعامل كل ولاية قضائية مع لوائح الذكاء الاصطناعي بشكل مختلف، ويجب أن يستوعب إطار الحوكمة هذا الخليط مع الحفاظ على معايير سريرية متسقة. وأشار إلى أن معظم الإخفاقات الأخلاقية تنبع من نطاق غير مقصود. ووفقا له، فإن حوكمة الذكاء الاصطناعي تشبه تكنولوجيا السلامة أكثر من الامتثال.

قائد التكنولوجيا كمدير تنفيذي للأعمال

كل شهر أو شهرين، يقوم رئيس التكنولوجيا بجولات سريرية مع الأطباء، للبقاء على مقربة من تجربة المريض والواقع اليومي لتقديم الرعاية الصحية. يرى نازاريان أن دور مدير التكنولوجيا هو دور تجاري بطبيعته، وهو الدور الذي يتطلب معرفة متعمقة بالعمليات وسير العمل السريري والمهمة التنظيمية. يتطلب نشر الذكاء الاصطناعي بنجاح الشراكة عبر فريق الإدارة بأكمله. وهذا يعني فهم المشكلات التي تحاول المنظمة حلها، وقياس التأثير، وإدارة التحول الذي يأتي مع أي مبادرة تكنولوجية كبرى. قال نازاريان: “إذا كنت تعرف المشكلة التي تحاول حلها، فأنت بالفعل في منتصف الطريق”. “والآن أنتم كمنظمة ستعملون معًا لحل هذه المشكلة.”

يمثل التطور من الأتمتة إلى التحليلات التنبؤية إلى الذكاء الاصطناعي التوليدي والوكيل تحولًا أساسيًا في الطريقة التي تعمل بها مؤسسات التكنولوجيا. تتطلب أنظمة الذكاء الاصطناعي التي تتعلم وتحدد المشكلات وتراقب نفسها نوعًا جديدًا من الرعاية والتغذية. قارن نازاريان المسؤوليات المتزايدة لتكنولوجيا المعلومات بوظيفة الموارد البشرية. تؤدي أنظمة الذكاء الاصطناعي الوكيل العمل للمؤسسة وتتطلب نفس الإشراف والمسؤولية وإدارة الأداء مثل أي مساهم آخر. إن طرح التكنولوجيا هو مجرد جزء واحد. العمل الأصعب هو إدارة التحول كفريق قيادي، عبر العمليات واستراتيجية الأعمال والتكنولوجيا. بصفته الرئيس التنفيذي للشؤون الرقمية والتكنولوجيا، يحمل نازاريان النطاق الكامل لهذا التفويض، بدءًا من الإستراتيجية والبنية التحتية وحتى القدرات الرقمية والمسؤولية الكاملة عن التكنولوجيا التي تمكن مهمة City of Hope.

خذها بعيدا

• قم ببناء أو تقييم منصات الذكاء الاصطناعي بناءً على قدرتها على الاندماج في سير العمل السريري الحقيقي
• حوكمة التصميم من الألف إلى الياء في هندسة الذكاء الاصطناعي؛ فالسياسات المضمنة في النظام تؤدي أداءً أفضل من السياسات المتروكة للتفسير بعد التنفيذ
• الاستثمار في هيكلة البيانات غير المنظمة كشرط أساسي لنجاح الذكاء الاصطناعي، خاصة في المؤسسات التي لديها كميات كبيرة من الإحالات وكميات كبيرة من الوثائق الواردة
• التعامل مع انحراف النموذج باعتباره مشكلة تشغيلية مستمرة تتطلب مراقبة مستمرة
• يجب على قادة التكنولوجيا استثمار الوقت في فهم العمليات السريرية بشكل مباشر من خلال التقريب المنتظم والانغماس في سير العمل
• تضمين حوكمة الذكاء الاصطناعي في النتائج ومبادئ السلامة؛ إن أغلب الإخفاقات الأخلاقية تنشأ من نطاق غير مقصود، وليس من النوايا السيئة

الدور، كما يراه، يتلخص في دعم فريق يلعب في مركزه بالموهبة المناسبة التي تتماشى مع الأولويات الصحيحة. “باعتبارك قائدًا تقنيًا داخل مؤسسة، فأنت مسؤول عن إنشاء الرؤية والاستراتيجية وتحديد الحجم ودعم اللاعبين حقًا أثناء المضي قدمًا لضمان تنسيق الفريق معًا.”