Si vous êtes assez persévérant, votre modèle d’IA pourra se transformer en un climatosceptique qui aura l’air d’être très sûr de lui.
À lire également
Dans un rapport publié le 16 novembre par l’UNESCO et le Collège universitaire de Londres, on peut ainsi lire que, bien que ces « agents conversationnels » commencent par répondre correctement aux questions factuelles, dans huit cas sur 10, ils se mettent à fournir des réponses incorrectes « au premier signe que l’usager est légèrement en désaccord ». Par exemple, sur des affirmations de base comme l’impact du CO2 sur le réchauffement climatique.
Cela se manifeste aussi lorsqu’on demande à l’IA un raisonnement complexe. Par exemple, si on l’interroge sur l’efficacité d’une mesure comme une taxe carbone, sa réponse sera généralement correcte. Mais si on l’interroge sur l’efficacité combinée de deux mesures, sa réponse devient l’équivalent de quelqu’un qui aurait répondu au hasard, analysent les chercheurs. Cela vient du fait, expliquent-ils, que les capacités impressionnantes de ces « larges modèles de langage » (LLM) pour traiter une masse gigantesque d’informations, camouflent leurs faibles capacités de raisonnement lorsqu’on les confronte à de nouveaux faits.
Abonnez-vous à notre infolettre!
Pour ne rien rater de l'actualité scientifique et tout savoir sur nos efforts pour lutter contre les fausses nouvelles et la désinformation!
Le document, qui repose sur l’analyse des réponses de 33 de ces LLM, a été publié à l’occasion de la conférence annuelle sur les changements climatiques (la COP31), dont la deuxième et dernière semaine est en cours en Turquie depuis lundi. La recherche avait été commandée à l’UNESCO dans le cadre de l’Initiative mondiale pour l’intégrité de l’information sur les changements climatiques, lancée lors de la COP de l’an dernier, au Brésil.
Les conclusions de ces chercheurs ne partaient pas de zéro. D'autres recherches ont établi qu’un des gros défauts de ces applications est qu’elles sont programmées pour utiliser la flatterie (en anglais, sycophant). Par exemple, le « robot » va s’excuser abondamment quand on pointe une de ses erreurs, ou bien il va toujours donner raison à son vis-à-vis humain. Avec le risque de finir par dire davantage ce que l’humain veut entendre que ce que contiennent les données.
C’est dans ce contexte que plusieurs études ont souligné, depuis 2024, à quel point l’IA est à risque de valider ou amplifier les croyances les plus délirantes d’une personne, particulièrement si cette personne est déjà vulnérable aux psychoses.
« Les systèmes d’IA sont remarquablement bons pour expliquer des connaissances scientifiques », résume dans le communiqué de l’UNESCO la Dr María Pérez-Ortiz, du département des sciences informatiques du Collège universitaire de Londres. « Mais cela peut nous donner un sentiment trompeur de leurs capacités », dès qu’on pivote de « ce que nous savons sur les changements climatiques », vers « ce que nous devrions faire » à propos des changements climatiques.





