Des chercheurs californiens utilisent l’intelligence artificielle pour pourchasser sur Twitter les robots ou bots, ces comptes automatisés, sur les médias sociaux. Comme ils le résument dans cet article, ils ont utilisé un algorithme de détection qui rend possible de mieux comparer l’activité des faux comptes (les bots) et des vrais utilisateurs.

Les bots s’avèrent plus prévisibles que les humains : ils ne modifient guère leurs interactions ou la longueur des informations qu’ils postent à travers le temps. C’est ce qu’ont conclu les chercheurs en analysant les 8,4 millions de tweets provenant de 3500 comptes humains et 3,4 millions de tweets provenant de 5000 robots.

Les humains répondent entre 4 et 5 fois plus souvent que les bots à d’autres tweets et deviennent encore plus interactifs lorsque les réponses augmentent, au cours d’une session d’une heure sur Twitter. Les vrais utilisateurs modifient également plus souvent la longueur de leurs tweets: et plus la séance avance, plus ces messages ont tendance à diminuer de taille, mais pas chez les bots. Ce que les chercheurs attribuent à une fatigue cognitive que seuls les humains peuvent avoir…

Les chercheurs ont également analysé le temps écoulé entre deux tweets consécutifs d’un même utilisateur. Les faux comptes montraient des pics de distribution à des intervalles de 30 ou 60 minutes, et pas les vrais utilisateurs. Il semble toutefois que l’IA détecte mieux les faux comptes lorsqu’elle ne tient pas compte du calendrier des publications.

Ces comptes de médias sociaux contrôlés par des logiciels sont régulièrement associés à différentes sortes de manipulations en ligne et à de la désinformation. Pour parvenir à les débusquer, il importe donc de caractériser l’activité des bots, et pas seulement de se pencher sur leur « détection sociale » (la dénonciation, les reportages, etc.). 

Une précédente étude de la même équipe mettait à jour la dynamique comportementale des robots au cours d’une séance d’activité : ils ont moins tendance à s’engager dans les interactions sociales et produisent un contenu plus uniforme. Deux choses que l’IA pourrait plus facilement détecter que l’humain. 

C’est qu’ils sont malgré tout de plus en plus sophistiqués: les bots sont capables de refléter un comportement à court terme imitant celui des humains. Les données recueillies pour cette étude datent d’ailleurs de trois ans, ce qui est sans doute une de ses limites, car les créateurs de bots ne cessent de raffiner leurs stratégies.