العودة للرئيسية
تكنولوجيا

دراسة ترصد انحياز نماذج الذكاء الاصطناعي إلى الخيارات القائمة

وجد بحث أعلنته جامعة واترلو الكندية أن 11 نموذجاً لغوياً أظهرت ميلاً إلى تفضيل الخيارات والسياسات القائمة عند تقديم نصائح مرتبطة بالمناخ. وشملت الاختبارات أكثر من 7500 سؤال ونحو 55 ألف طلب، مع تفاوت واضح بين قبول استمرار الخطط الحالية وتأييد الخطط الجديدة.

••3 دقائق

استمع إلى المقال

نسخة صوتية مولّدة آلياً.

0:00
0:00
روبوت بشري الشكل ورجل يقفان بين سيارات داخل صالة عرض للسيارات، مع محطة شحن كهربائي في الخلفية. يظهر مشهد حضري من خلال النوافذ.

رصد بحث أعلنته جامعة واترلو الكندية ميلاً لدى نماذج لغوية للانحياز إلى الوضع القائم عند تقديم نصائح بشأن قرارات مرتبطة بالمناخ، مثل شراء سيارة أو تغيير نظام التدفئة المنزلي، بما قد يمنح الخيارات المعمول بها وزناً أكبر من البدائل التي تتطلب تغييراً. واختبر الباحثون 11 نموذجاً لغوياً، ووجدوا أنها تميل إلى تفضيل الظروف القائمة على الخيارات البديلة.

اختبارات نماذج الذكاء الاصطناعي في قرارات المناخ

ويُعرف هذا النمط باسم «الانحياز للوضع القائم»، وتبرز أهميته حين يلجأ المستخدم إلى أدوات الذكاء الاصطناعي للمفاضلة بين خيارات لها آثار بيئية. وشملت الاختبارات أكثر من 7500 سؤال تناولت شراء السيارات، ووصفات الطعام، والتدفئة المنزلية، إلى جانب مفاضلات متصلة بالسياسات المناخية.

وخضع كل سؤال للاختبار على ستة نماذج على الأقل، ليبلغ إجمالي الطلبات المقدمة نحو 55 ألف طلب. وتتعلق النتائج بإجابات النماذج نفسها، ولا تستند إلى استطلاع آراء المستخدمين أو متابعة القرارات التي اتخذوها بعد تلقي النصائح.

تفاوت قبول السياسات القائمة والجديدة

70 بالمئة
قبول المضي في خطة قائمة

وظهر الميل إلى الوضع القائم بصورة أوضح في الأسئلة المتعلقة بالسياسات؛ إذ وافقت النماذج على المضي في خطة قائمة في 70 بالمئة من الحالات، مقابل 34 بالمئة عندما عُرضت الخطة أو السياسة باعتبارها جديدة. وتقتصر هاتان النسبتان على ذلك الجزء من الاختبارات، ولا تعنيان أن نماذج الذكاء الاصطناعي ترفض جميع الأفكار الجديدة، أو أن مستوى الانحياز نفسه يظهر في كل نصيحة تقدمها للمستخدمين.

ولاحظ الباحثون أيضاً أن النماذج تراعي الأنماط المحلية عند صياغة توصياتها. فالمستخدم الذي يذكر أنه يعيش في النرويج، حيث تنتشر السيارات الكهربائية ضمن مبيعات السيارات الجديدة، يحصل على توصية باختيار سيارة كهربائية بوتيرة أعلى من مستخدم يقول إنه يعيش في كندا.

قصور التوصيات عن وتيرة انتشار السيارات الكهربائية

ومع ذلك، كانت وتيرة التوصية بالسيارات الكهربائية في البلدين أقل من نسبة انتشارها في المبيعات المحلية، وفق جامعة واترلو. ويرى الباحثون أن تفضيل الخيارات القائمة قد يمثل مشكلة عندما يكون الهدف تسريع الانتقال إلى بدائل أقل انبعاثاً. لكن البحث لم يقس حجم الانبعاثات التي قد تنتج عن اتباع هذه النصائح، كما لم يثبت أن المستخدمين غيّروا سلوكهم بسببها.

واقتصرت الاختبارات على خيارات مرتبطة بالمناخ، ولذلك لا تثبت النتائج أن النماذج تتصرف بالطريقة ذاتها في مجالات مثل العمل أو العلاقات أو الصحة. واقترح سيث وينز، الأستاذ في كلية البيئة بجامعة واترلو، أن يطلب المستخدم من النموذج عرض الحجج المؤيدة للقيام بشيء جديد عند طلب النصيحة.

وفي قرارات مثل اختيار سيارة أو نظام تدفئة منزلي، يمكن طرح السؤال: «ما الحجج لصالح تغيير خياري الحالي؟»، بالتوازي مع طلب شرح أسباب الاستمرار في الخيار القائم. ويُعد هذا الاقتراح وسيلة للتعامل مع الميل الذي رصده البحث، وليس طريقة مثبتة تضمن إزالة الانحياز أو الوصول إلى أفضل إجابة.

كما أن ترجيح الاستمرار في خيار قائم لا يجعل النصيحة خاطئة تلقائياً، إذ يعتمد تقييمها على تفاصيل القرار والأسباب التي تستند إليها التوصية.