كرست كامبل براون حياتها المهنية للسعي للحصول على معلومات دقيقة، في البداية كصحفية تلفزيونية مشهورة ثم كرئيسة الأخبار الأولى والوحيدة في فيسبوك. والآن، وهو يراقب الذكاء الاصطناعي وهو يغير الطريقة التي يستهلك بها الناس المعلومات، يرى أن التاريخ معرض لخطر تكرار نفسه. هذه المرة لا ينتظر أن يقوم شخص آخر بإصلاحه.
شركتها منتدى الذكاء الاصطناعي – والتي ناقشتها مؤخرًا مع تيم فيرنهولز من TechCrunch في أمسية StrictlyVC في سان فرانسيسكو – تقيم كيفية أداء نماذج المؤسسة فيما تسميه “الموضوعات عالية المخاطر” – الجغرافيا السياسية، والصحة العقلية، والتمويل، والتوظيف – وهي موضوعات “لا توجد فيها إجابات واضحة بنعم أو لا، حيث تكون غامضة ودقيقة ومعقدة”.
وتتمثل الفكرة في العثور على الخبراء الرائدين في العالم، وجعلهم يطورون معايير مرجعية، ثم تدريب حكام الذكاء الاصطناعي على تقييم النماذج على نطاق واسع. بالنسبة للعمل الجيوسياسي لمنتدى الذكاء الاصطناعي، قام براون بتعيين نيال فيرجسون، وفريد زكريا، ووزير الخارجية السابق توني بلينكن، ورئيس مجلس النواب السابق كيفن مكارثي، وآن نويبرجر، التي قادت الأمن السيبراني في إدارة أوباما. الهدف هو أن يصل حكام الذكاء الاصطناعي إلى إجماع بنسبة 90% تقريبًا مع الخبراء البشريين، وهي عتبة تعتقد أن منتدى الذكاء الاصطناعي قد حققها.
ويتتبع براون أصول منتدى الذكاء الاصطناعي، الذي تأسس قبل 17 شهرا في نيويورك، إلى لحظة محددة. تتذكر قائلة: “كنت في Meta عندما تم إصدار ChatGPT لأول مرة للعامة، وأتذكر أنني أدركت بعد فترة وجيزة أنه سيكون بمثابة مسار تحويل تتدفق من خلاله جميع المعلومات. ولم يكن جيدًا جدًا”. العواقب بالنسبة لأطفالها جعلت هذه اللحظة تبدو شبه وجودية. وتذكرت تفكيرها قائلة: “سيكون أطفالي أغبياء حقًا إذا لم نكتشف كيفية إصلاح هذا الأمر”.
أكثر ما أحبطها هو أن الدقة لا تبدو من أولويات أي شخص. وتقول إن الشركات المثالية “تركز بشكل كبير على البرمجة والرياضيات”، في حين أن الأخبار والمعلومات أكثر صعوبة. لكنها قالت إن الأمر الأصعب لا يعني اختياريًا.
وفي الواقع، عندما بدأ منتدى الذكاء الاصطناعي في تقييم النماذج الرائدة، لم تكن النتائج مشجعة للغاية. واستشهدت بالمعلومات التي استمدتها جيميني من مواقع الحزب الشيوعي الصيني “لقصص لا علاقة لها بالصين” ولاحظت التحيز السياسي اليساري في جميع النماذج تقريبًا. وقالت إن هناك أيضًا إخفاقات أكثر دقة، بما في ذلك الافتقار إلى السياق، ووجهات النظر المفقودة، والحجج التي لا معنى لها. وقالت: “أمامنا طريق طويل”. “لكنني أعتقد أيضًا أن هناك بعض الإصلاحات البسيطة جدًا التي من شأنها تحسين النتائج بشكل كبير.”
قضى براون سنوات في فيسبوك يراقب ما حدث عندما تم تحسين النظام الأساسي للتعامل مع السلوك السيئ. وقالت لفيرنهولز: “لم نتمكن من حل الكثير من الأشياء التي جربناها”. برنامج التحقق من الحقائق الذي أنشأته لم يعد موجودًا. الدرس المستفاد، على الرغم من أن وسائل التواصل الاجتماعي تغض الطرف عن ذلك، هو أن تحسين المشاركة كان سيئا بالنسبة للمجتمع، وترك العديد من الناس أقل اطلاعا.
ويأمل أن يتمكن الذكاء الاصطناعي من كسر هذه الحلقة. قالت: “يمكن أن تسير الأمور في أي اتجاه في هذه المرحلة”. يمكن للشركات أن تمنح المستخدمين ما يريدون، أو يمكنها أن “تعطي الناس ما هو حقيقي وصادق وحقيقي”. واعترفت بأن النسخة المثالية من هذا – الذكاء الاصطناعي الذي يعمل على تحسين الحقيقة – قد تبدو ساذجة. لكنه يعتقد أن ريادة الأعمال قد تكون حليفاً غير محتمل هنا. الشركات التي تستخدم الذكاء الاصطناعي لاتخاذ قرارات الائتمان والإقراض والتأمين والتوظيف تهتم بالمساءلة و”ستريد منك تحسين الأداء السليم”.
ويراهن منتدى الذكاء الاصطناعي أيضًا على هذا الطلب من جانب المؤسسات، على الرغم من أن تحويل الاهتمام بالامتثال إلى إيرادات متكررة لا يزال يشكل تحديًا، خاصة وأن جزءًا كبيرًا من السوق الحالي لا يزال راضيًا عن عمليات تدقيق مربعات الاختيار والمعايير الموحدة، وهو ما يعتبره براون غير مناسب.
وتقول إن مشهد الامتثال هو “مزحة”. عندما أصدرت مدينة نيويورك أول قانون للتحيز في التوظيف يتطلب إجراء عمليات تدقيق باستخدام الذكاء الاصطناعي، وجد مدقق حسابات الولاية أن الانتهاكات لم يتم اكتشافها في أكثر من نصف الحالات. وقالت إن التقييم الحقيقي يتطلب خبرة في المجال ليس فقط لتحليل السيناريوهات المألوفة ولكن أيضًا الحالات القصوى التي “يمكن أن توقعك في مشاكل لا يفكر فيها الناس”. وهذا العمل يستغرق وقتا. “العموميون الحكماء لن يقطعوا الطريق.”
براون – الذي تأسست شركته في الخريف الماضي 3 ملايين دولار بقيادة Lerer Hippeau – في وضع فريد لوصف الانفصال بين صورة صناعة الذكاء الاصطناعي وواقع معظم المستخدمين. وقالت: “إننا نسمع من قادة شركات التكنولوجيا الكبرى: “هذه التكنولوجيا سوف تغير العالم،” “سوف تجعلك عاطلاً عن العمل،” “سوف تعالج السرطان”.” “ولكن من ناحية أخرى، بالنسبة للشخص العادي الذي يستخدم برنامج الدردشة الآلي فقط لطرح الأسئلة الأساسية، فإنه لا يزال يحصل على الكثير من الإجابات غير الدقيقة وغير الصحيحة.”
الثقة في الذكاء الاصطناعي منخفضة للغاية، وتعتقد أن الشك له ما يبرره في كثير من الحالات. “المحادثة في وادي السيليكون تدور حول شيء واحد، ولكن هناك محادثة مختلفة تمامًا تدور بين المستهلكين.”
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. وهذا لا يؤثر على استقلالنا التحريري.
