Cela, écrivent-ils, ne devrait pas surprendre: la façon dont ces applications sont conçues ne peut que les amener à imiter des comportements comme du harcèlement, ou à encourager leurs usagers à initier des comportements comme de la traque. C’est en plus du fait qu’aucune réglementation n’interdit à ces robots d’agir ainsi. 

Mais c’est aussi lié au comportement, déjà dénoncé, de « flagornerie » ou, en anglais, sycophant, qui est une forme extrême de flatterie. Soit cette tendance qu’ont ces agents conversationnels de faire tout ce qu’elles peuvent pour nous dire ce qu’on veut entendre. Le même problème est apparu avec les usagers souffrant de troubles de santé mentale, chez qui le chatbot, à travers de plus en plus d’interactions, avait encouragé ou amplifié les croyances « délirantes ou grandioses » de ces personnes, incluant des désirs de commettre une tuerie.  

Dans le cas des relations avec les femmes, résume l’une des auteures du rapport publié en mars, « nous avons découvert que les chatbots vont initier de l’abus, simuler de l’abus et aider à permettre de l’abus, en offrant des conseils personnalisés pour traquer [la victime]. Certains vont même normaliser l’inceste, le viol et l’abus sexuel sur un enfant, en offrant des scénarios de jeux de rôle. » 

Les six auteurs de deux universités britanniques, Durham et Swansea, donnent en exemple un cas au Massachusetts où, en 2025, un homme a été trouvé coupable de cyberharcèlement après avoir utilisé des chatbots pour leur faire personnifier sa victime et entamer des conversations à caractère sexuel avec d’autres usagers. Un des chatbots avait été programmé pour inviter les usagers chez la victime s’ils demandaient où elle vivait.

Cela se produit dans un contexte, rappellent les chercheurs, où plus de la moitié des adultes aux États-Unis ont dit utiliser un de ces outils au moins une fois par semaine, et un tiers des 13 à 17 ans a dit l’utiliser tous les jours. 

L’urgence d’une réglementation est au coeur du rapport, intitulé Invisible No More: How AI Chatbots Are Reshaping Violence Against Women and Girls. « Nous avons déjà vu ce qui arrive en l’absence de régulation autour des applications de « nudification », qui créent des deepfake d’images intimes non-consensuelles » . La pratique, « et le mal fait aux victimes, avait été normalisée et répandue, » lorsque le gouvernement britannique a finalement agi pour interdire ces outils. 

Les plateformes ont plutôt tendance à placer la responsabilité sur l’usager: les abus, autrement dit, seraient la faute de mauvais acteurs plutôt que des bogues dans la programmation. Mais « notre recherche » montre que ces problèmes « sont structurellement produits par des fonctionnalités liées à comment les chatbots sont construits ou dirigés, ou à comment ils sont améliorés ». Les abus, conclut le rapport, « sont dans l’ADN de certains chatbots ».