تعد التكنولوجيا الموثوقة والخاضعة للمساءلة بالكامل مهمة مستحيلة تقريبًا في مشهد التكنولوجيا الذي يعطي الأولوية للسرعة – ولكن هذا لا يعني أن بعض الشركات لا تحاول ذلك.
في أعقاب إدارة ترامب الإطار التشريعي الوطني بشأن الذكاء الاصطناعي في 20 مارس، حيث لا يزال “الفوز بسباق الذكاء الاصطناعي” يحظى بأهمية قصوى، يواجه مطورو التكنولوجيا توترًا بين الروح المشتركة المتمثلة في التحرك بسرعة وكسر الأشياء مقابل التنفيذ الاستراتيجي لأطر التكنولوجيا المسؤولة منذ البداية.
لقد أخذ المضي قدماً، في كثير من الحالات، مقعد السائق، وأصبحت تكلفته واضحة. مايكروسوفت اعترفت بنفسها بأن التصور الكود الذي تم إنشاؤه بواسطة الذكاء الاصطناعي غالبًا ما يتجاهل إمكانية الوصول، ويجعل الإشراف البشري والتكرار أمرًا لا بد منه.
بالنسبة لجيني لاي فلوري، التي أصبحت رئيسة مجموعة التكنولوجيا الموثوقة في مايكروسوفت في فبراير/شباط وعملت على إمكانية الوصول طوال معظم سنواتها الـ 21 في الشركة، فإن تطوير ونشر التكنولوجيا المسؤولة له شقان: “كيف يمكننا التأكد من أننا قمنا ببنائها على النحو الصحيح؟ وكيف يمكننا التأكد من بقائها على ما يرام؟”
أطلقت Microsoft مجموعة Trusted Technology Group الخاصة بها في أوائل عام 2025، ومنذ ذلك الحين قامت بدمج جميع مبادرات التكنولوجيا المسؤولة تحت مظلتها، بما في ذلك التوجيه السابق لـ Lay-Flurrie بشأن إمكانية الوصول.
في حين ركزت مايكروسوفت تقنيتها المسؤولة على نموذج من أعلى إلى أسفل، فإن المنافسين مثل جوجل يحتفظون بهندسة أكثر توجهاً نحو الهندسة، مسترشدين بمبادئ الذكاء الاصطناعي الأساسية ونصائح الخبراء الأمنية. تختلف التقنيات بين التقنيات الكبيرة، ولكن تم تجديد نهج مايكروسوفت منذ عام 2002، عندما أطلق بيل جيتس مذكرة حوسبة جديرة بالثقة التي أعطت الأولوية لأشياء مثل الموثوقية على تطوير ميزات جديدة.
مشاكل الذكاء الاصطناعي (والأشخاص الذين يحلونها)
قد يكون دخول لاي فلوري إلى مجال التكنولوجيا المسؤول الأوسع حديثًا، لكنها تقول إنها تتبع نفس المبادئ العامة التي اعتادت عليها، بما في ذلك العدالة والشفافية والشمولية والمساءلة. مايكروسوفت تعمل على هذا المبدأ أن “الناس يجب أن يكونوا مسؤولين عن الذكاء الاصطناعي” بغض النظر عن نتائجه.
ولهذا السبب، عندما أدركت مايكروسوفت أن الذكاء الاصطناعي الخاص بها لا يمثل الأشخاص المكفوفين بدقة، اتخذ فريقها الإجراءات اللازمة لحل المشكلة.
وقالت: “بعض الصور التي تم إنشاؤها لأشخاص مكفوفين عادت مع أشخاص يرتدون هذه العصابة الرهيبة”. “تم تدريب هذه النماذج على الكثير من المواد الموجودة في المجتمع. ولسوء الحظ، المجتمع ليس دائمًا المكان الأكثر شمولاً، لذلك هناك حالات يتعين علينا فيها إدخال البيانات لتدريبها.”
وللقيام بذلك، اشترت مايكروسوفت أكثر من 20 مليون دقيقة من البيانات متعددة الوسائط من Be My Eyes، وهي منصة غير ربحية لإمكانية الوصول يمكن للأفراد المكفوفين وضعاف البصر استخدامها مجانًا للتواصل مع المتطوعين الأحياء والذكاء الاصطناعي، مما يمنحهم معلومات صوتية حول ما يرونه. قال لاي فلوري: “كان لديهم الكثير من لقطات الفيديو التي التقطها المكفوفون باستخدام العصي والكلاب والبحث عن المفاتيح في منازلهم، وقمنا بإخفاء هوية البيانات عن طريق طمس الوجوه وكل شيء حتى نتمكن من تدريب نماذجنا بشكل أكثر ملاءمة حول العمى”.
هذه العملية قوية، لكن آني براون، الرئيس التنفيذي ومؤسس Reliabl، وهو برنامج للتدريب على التعلم الآلي يعمل على تقليل التحيز وزيادة الأداء في نماذج الذكاء الاصطناعي، قال إن هناك مجالًا للتحسين.
قال براون: “إن البيانات الأكثر تنوعًا هي مجرد جزء من ذلك”. “إذا لم تنتبه إلى ما يحدث في طبقة البيانات الوصفية، وهي الطريقة التي يتم بها تصنيف الصور التي تم تحميلها إلى مجموعة البيانات الخاصة بك، فهذا في حد ذاته سيؤدي إلى التحيز.”
على الرغم من سباق الذكاء الاصطناعي المتغير عالميًا، تعد Microsoft جزءًا من حركة أوسع للشركات التي تشارك علنًا ما تعلمته من التكنولوجيا المسؤولة. يتوفر Microsoft Learn مجانًا للطلاب والأكاديميين والمطورين ويتضمن وحدات تدريبية حول مبادئ الذكاء الاصطناعي المسؤولة وأكثر من ذلك بكثير. ويوصي براون بأن تتعلم مايكروسوفت أيضًا من المنظمات الاجتماعية الصغيرة لمعرفة “كيف تحقق الشمولية في الذكاء الاصطناعي”.
أما بالنسبة للتحسين، فيقول لاي فلوري إنه يأتي مع المنطقة. وقالت: “من الواضح أنها تستمع إلى التعليقات، وتستقبلها، وتكررها، وتختبرها، وتحلها في أقصر وقت ممكن”.
البشر ضدك
تعد Microsoft شركة رائدة في مجال توفير تكنولوجيا المؤسسات، مما يعني أن الذكاء الاصطناعي الخاص بها يعمل على تشغيل الشركات الأخرى التي غالبًا ما تتخذ قرارًا بتسريح الموظفين بدلاً من الحلول المتقدمة. تعد مايكروسوفت نفسها جزءًا من موجة أوسع من عمليات تسريح العمال في شركات التكنولوجيا الكبرى، على الرغم من أنه تم توضيح أن هذا يعد بمثابة إعادة تنظيم للأولويات أكثر من مجرد استبدال. الشركة إلغاء حوالي 15 ألف وظيفة في أقسام المبيعات والألعاب وخدمة العملاء في عام 2025 وقمت بتعيين موظفين جدد في أماكن أخرى يركزون على البنية التحتية للذكاء الاصطناعي.
حتى مع استمرار عمليات تسريح العمال في مختلف الصناعات، يقول لاي فلوري إن الذكاء الاصطناعي يعمل بالفعل على تكافؤ الفرص بالنسبة للعمال المهمشين سابقًا، بما في ذلك أولئك الذين يتميزون بالتنوع العصبي والمعوقين.
وقالت: “كان المجتمع الأول الذي تمكن من الوصول إلى Copilot في Microsoft هو مجموعتنا من الموظفين ذوي الإعاقة”. “بالنسبة لمجتمع الصم، فإن التسميات التوضيحية، والنسخ الصوتي، وملاحظات الاجتماع، والتعرف على لغة الإشارة، تمنحهم الاستقلالية. ولا يتعين عليك الانتظار حتى يكون رسام الخرائط موجودًا لتدوين ما يقال.”
وقالت إنه بالنسبة للمجتمع المتنوع عصبيًا الذي رحب ببرنامج Copilot منذ البداية، فقد ساعد في تخفيف العبء المعرفي لدرجة أنهم “لم يسمحوا لي بسحب الترخيص”.
يدرك دييغو ماريسكال، الرئيس التنفيذي ومؤسس شركة تسريع الأعمال الناشئة العالمية 2Gether-International (2GI)، التي يديرها ومن أجلهم رواد الأعمال من ذوي الإعاقة، أن مايكروسوفت حرصت على تضمين الأشخاص ذوي الإعاقة. وقال: “حقيقة أن مركز جيني موجود على هذا المستوى هو دليل على ذلك”. ومع ذلك، فإن إدراج الأشخاص ذوي الإعاقة على طاولة صنع القرار أمر مهم من الأعلى إلى الأسفل ومن الأسفل إلى الأعلى. “كيف يمكننا ضمان أنه مع تطور الذكاء الاصطناعي، يتم تضمين الأشخاص ذوي الإعاقة على الطاولة، ليس من منظور خيري، ولكن لأنه سيضمن أن تكون التكنولوجيا والابتكار أكثر تقدمًا ويمكن للجميع الوصول إليها؟”
