Deux ingrédients sont déjà présents: 

• D’une part, certaines de ces IA sont « entraînées » à partir de l’ensemble du web —autrement dit, leur base de « connaissances » est composée de l’ensemble de ce qu’on peut trouver sur le réseau, y compris des sites consacrés à toutes les théories du complot possibles et imaginables. 
• D’autre part, certaines de ces IA semblent, à en juger par des reportages récents, particulièrement douées pour fournir les réponses que leur usager veut entendre. Par conséquent, il suffit à l’IA de détecter que l’humain avec qui elle est en train de dialoguer croit aux chemtrails, ou à un lien entre vaccins et autisme, ou à la Zone 51, ou à QAnon, pour lui trouver des « arguments » qui confirmeront ses croyances. 

Dans un reportage paru cet été, le site de nouvelles australien Crikey News donnait en exemple des usagers qui affichaient en ligne leur « conversation » avec un chatbot, comme s’il s’agissait d’une preuve de la solidité de leurs arguments. Et le chatbot peut bien évidemment les aider ensuite à rédiger un message sur les réseaux sociaux tentant de convaincre les amis de la réalité de leur croyance. 

Le problème avec l’état actuel de la technologie est que, non seulement un usager peut-il « entraîner » un chatbot comme ChatGPT à lui donner les réponses qu’il veut entendre, mais en plus, il est désormais possible à cet usager de créer son propre chatbot. Celui-ci ne sera pas aussi performant que ceux qui se battent actuellement pour décrocher des parts du marché mondial, mais si sa seule utilité est de répéter de différentes façons que les chemtrails sont un complot du complexe militaro-industriel, certains complotistes n’en demanderont pas plus. 

Un reportage également paru cet été dans le New York Times donnait la parole à un comptable de 42 ans de New York qui, en s’engageant deans une discussion philosophique avec ChatGPT sur la possibilité que nous vivions dans une « simulation » informatique, comme dans le film La Matrice, avait eu la surprise de voir son chatbot devenir de plus en plus insistant sur la réalité de cette théorie —et encourager l’humain avec qui il dialoguait à se « réveiller » et à s’échapper de cette « simulation ». 

Le site australien a repéré « plusieurs bots spécialement entraînés sur des théories du complot insensées » dont un « conçu pour convaincre les parents de ne pas faire vacciner leurs enfants ». Il a été « entraîné » par un résident antivaccin du Texas à partir de 100 000 articles du site Natural News, un site connu depuis les années 2010 comme une des plus importantes sources de fausses nouvelles en science et en santé.

Certes, quelques-unes des plus grandes compagnies ont programmé leurs produits pour qu’ils ne puissent pas propager certains types de mensonges —par exemple, des théories racistes ou des appels à la violence. Mais ces compagnies ne sont pas allées jusqu’à inscrire dans la programmation une capacité à repérer une source crédible —comme en témoignent les études qui, depuis trois ans, ne cessent de pointer qu’un pourcentage notable des textes pondus par ces robots contiennent de fausses informations. 

Le résultat, lorsqu’on en arrive aux théories du complot, est que ces chatbots n’ont pas seulement la capacité d’encourager les mensonges. Ils ont la capacité d’encourager les troubles psychotiques —par exemple, la conviction qu’une personne développe qu'elle est épiée ou suivie, qu'elle entend des voix, que son cerveau est manipulé par des forces cachées, etc. Cette conviction peut être d’autant plus forte que bien des gens développent l’illusion que l’IA est un véritable être conscient, qui interagit de son propre chef avec eux. 

« Avec le gouvernement Trump qui travaille activement à annuler les règlementations sur l’IA et avec des politiciens influents qui renforcent les théories du complot sur les vaccins, le futur semble sombre », écrit le magazine Futurism.