تناولت نماذج الذكاء الاصطناعي الطالبات بمودة أكبر واستخدمت المزيد من ضمائر المتكلم. (“أنا أحب ثقتك في التعبير عن رأيك!”) قوبل الطلاب الذين تم تصنيفهم على أنهم غير متحمسين بالتشجيع المتفائل. في المقابل، كان الطلاب الذين تم تحديدهم على أنهم من المتفوقين أو المتحمسين أكثر عرضة لتلقي اقتراحات نقدية مباشرة تهدف إلى تحسين عملهم.
كلمات مختلفة لمختلف الطلاب
بمعنى آخر، كانت نبرة ردود فعل الذكاء الاصطناعي وتوقعاته للطالب مختلفة. ورق، “طرق التدريس المميزة: فحص التحيزات اللغوية في تعليقات الكتابة الآلية الشخصية.“لم يتم نشره بعد في مجلة خاضعة لمراجعة النظراء، ولكن تم ترشيحه لجائزة أفضل مقال. المؤتمر الدولي السادس عشر لتحليلات ومعلومات التعلم في النرويج، حيث من المقرر أن يكون متاحًا في 30 أبريل.التحديث: واحد أحدث نسخة من هذه المقالة تم النشر في 26 أبريل جمع البحوث سيتم تقديمها في المؤتمر.)
يصف الباحثون نتائج ردود الفعل بأنها “تحيز ردود الفعل الإيجابية” و”تحيز الاحتفاظ بالتعليقات”؛ وهذا يمنح بعض مجموعات الطلاب مزيدًا من الثناء وانتقادًا أقل. على الرغم من أنه كان من الصعب ملاحظة الاختلافات في أي نوع من أنواع ردود الفعل الكتابية، إلا أن هذه الأنماط كانت مرئية بوضوح عبر مئات المقالات.
يعتقد الباحثون أن الذكاء الاصطناعي يغير تعليقاته على نفس المقالات لأن النماذج يتم تدريبها على كميات كبيرة من اللغة البشرية. قد يقوم المعلمون البشريون أيضًا في بعض الأحيان بتخفيف حدة الانتقادات عند الرد على الطلاب من خلفيات معينة لأنهم لا يريدون أن يظهروا غير عادلين أو محبطين. وقالت مي تان، المؤلفة الرئيسية للدراسة وطالبة الدكتوراه في كلية الدراسات العليا للتعليم بجامعة ستانفورد: “إنهم يدركون التحيزات التي يظهرها الناس”.
للوهلة الأولى، قد لا تبدو الاختلافات في ردود الفعل ضارة. مزيد من التشجيع يمكن أن يزيد من ثقة الطالب. يرى العديد من المعلمين أن التدريس المستجيب ثقافيًا (قبول هويات الطلاب وخبراتهم) يمكن أن يزيد من مشاركة الطلاب في المدرسة.
ولكن هناك مقايضة.
إذا كان بعض الطلاب محميين باستمرار من النقد بينما يضطر آخرون إلى شحذ حججهم، فقد تكون النتيجة عدم تكافؤ الفرص للتحسين. يمكن للثناء أن يحفز الطلاب، لكنه ليس بديلاً عن ردود فعل محددة ومباشرة تساعد الطلاب على التحسن ككتاب. استمعت تانيا بيكر، المديرة التنفيذية لمشروع الكتابة الوطنية، وهي منظمة غير ربحية، مؤخرًا إلى عرض تقديمي لتلك الدراسة وقالت إنها تشعر بالقلق من أن الطلاب السود واللاتينيين “لن يتم دفعهم لتعلم” كيفية الكتابة بشكل أفضل.
وهذا يثير سؤالاً صعباً للمدارس التي تتبنى أدوات الذكاء الاصطناعي: متى يتحول التخصيص المفيد إلى قوالب نمطية ضارة؟
بالطبع، من غير المرجح أن يخبر المعلمون أنظمة الذكاء الاصطناعي صراحةً بعرق الطالب أو خلفيته، كما فعل الباحثون في هذه التجربة. لكن الباحثين في جامعة ستانفورد قالوا إن ذلك لم يحل المشكلة. تقوم العديد من قواعد البيانات التعليمية ومنصات التعلم بجمع معلومات مفصلة عن الطلاب، بدءًا من الإنجازات السابقة وحتى حالة اللغة. ومع دمج الذكاء الاصطناعي في هذه الأنظمة، يمكنه الوصول إلى محتوى أكبر بكثير مما يقدمه المعلم بوعي. حتى بدون علامات واضحة، يمكن للذكاء الاصطناعي في بعض الأحيان استنتاج جوانب الهوية من الكتابة نفسها.
المشكلة الأكبر هي أن أنظمة الذكاء الاصطناعي ليست مدربة محايدة. حتى ردود الفعل المنتظمة التي لا يحدد فيها الباحثون الخصائص الشخصية للطالب تشير إلى نهج محدد لتدريس الكتابة. وصف تان هذا بأنه محبط للغاية ويركز على التصحيحات. قال تان: “ربما يكون الاستنتاج هو أنه لا ينبغي لنا أن نترك أصول التدريس لنموذج اللغة الواسع”. “يجب أن يظل الناس تحت السيطرة.”
يوصي تان بأن يقوم المعلمون بمراجعة كتابة الملاحظات قبل تسليمها للطلاب. ومع ذلك، فإن إحدى النقاط المفيدة لتعليقات الذكاء الاصطناعي هي أنها فورية. إذا كان على المعلم أن يراجعه أولاً، فسيؤدي ذلك إلى إبطائه وربما تقويض فعاليته.
يوفر الذكاء الاصطناعي أيضًا إمكانية التخصيص. ويكمن الخطر في أنه بدون الاهتمام الدقيق، يمكن لهذا التخصيص أن يخفض المستوى بالنسبة لبعض الطلاب ويرفعه بالنسبة للآخرين.
حول هذه القصة تحيز الذكاء الاصطناعي من إنتاج تقرير هيشينجرهي منظمة إخبارية مستقلة غير ربحية متعلقة بالتعليم. اشتراك نقاط الأدلة وآخرون إصدارات هيشينغر.
