Une étude publiée par l’Université de Waterloo, au Canada, a relevé chez des modèles de langage une tendance à privilégier le statu quo lorsqu’ils formulent des conseils sur des décisions liées au climat, comme l’achat d’une voiture ou le changement du système de chauffage d’un logement. Cette tendance pourrait accorder davantage de poids aux options existantes qu’aux solutions nécessitant un changement. Les chercheurs ont testé 11 modèles de langage et constaté qu’ils avaient tendance à privilégier les conditions existantes par rapport aux options alternatives.
Tests de modèles d’intelligence artificielle sur les décisions climatiques
Ce phénomène est appelé « biais en faveur du statu quo ». Il prend toute son importance lorsque l’utilisateur se tourne vers des outils d’intelligence artificielle pour choisir entre des options ayant des conséquences environnementales. Les tests ont porté sur plus de 7 500 questions concernant l’achat de voitures, les recettes de cuisine et le chauffage des logements, ainsi que sur des arbitrages liés aux politiques climatiques.
Chaque question a été testée sur au moins six modèles, pour un total d’environ 55 000 requêtes. Les résultats portent sur les réponses des modèles eux-mêmes et ne reposent ni sur une enquête auprès des utilisateurs ni sur un suivi des décisions prises après réception des conseils.
Une acceptation variable des politiques existantes et nouvelles
La tendance en faveur du statu quo était plus nette dans les questions liées aux politiques publiques: les modèles ont approuvé la poursuite d’un plan existant dans 70 % des cas, contre 34 % lorsque le plan ou la politique était présenté comme nouveau. Ces deux pourcentages concernent uniquement cette partie des tests. Ils ne signifient pas que les modèles d’intelligence artificielle rejettent toutes les idées nouvelles ni que le même niveau de biais apparaît dans tous les conseils qu’ils donnent aux utilisateurs.
Les chercheurs ont également observé que les modèles tenaient compte des tendances locales dans la formulation de leurs recommandations. Un utilisateur indiquant vivre en Norvège, où les voitures électriques sont très présentes parmi les ventes de voitures neuves, reçoit plus souvent la recommandation de choisir une voiture électrique qu’un utilisateur affirmant vivre au Canada.
Des recommandations en retrait par rapport à la progression des voitures électriques
Cependant, dans les deux pays, la fréquence des recommandations en faveur des voitures électriques était inférieure à leur part dans les ventes locales, selon l’Université de Waterloo. Les chercheurs estiment que la préférence pour les options existantes peut poser problème lorsque l’objectif est d’accélérer la transition vers des solutions moins émettrices. Mais l’étude n’a pas mesuré le volume d’émissions qui pourrait résulter du suivi de ces conseils et n’a pas établi que les utilisateurs avaient modifié leur comportement à cause d’eux.
Les tests se sont limités aux options liées au climat. Les résultats ne permettent donc pas d’établir que les modèles se comportent de la même manière dans des domaines comme le travail, les relations ou la santé. Seth Wynes, professeur à l’École de l’environnement de l’Université de Waterloo, a suggéré que l’utilisateur demande au modèle de présenter les arguments en faveur d’un changement lorsqu’il sollicite un conseil.
Pour des décisions comme le choix d’une voiture ou d’un système de chauffage domestique, l’utilisateur peut demander: « Quels sont les arguments en faveur d’un changement de mon choix actuel? », tout en demandant une explication des raisons de conserver l’option existante. Cette suggestion constitue un moyen de gérer la tendance relevée par l’étude, et non une méthode éprouvée garantissant la suppression du biais ou l’obtention de la meilleure réponse.
Le fait de privilégier la poursuite d’une option existante ne rend pas automatiquement le conseil erroné, car son évaluation dépend des détails de la décision et des raisons sur lesquelles repose la recommandation.
