On savait déjà que « l’intelligence artificielle générative » était capable d’écrire des résumés de recherche convaincants. Qu’elle soit capable de créer, en moins d’une minute, une série de données n’a donc rien d’étonnant. La grosse faiblesse du robot: il était incapable d’utiliser son… esprit critique. 

Un expert du domaine pouvait en effet voir que les données manquaient d’authenticité, comme l’écrivent les auteurs de cette expérience —portant sur deux présumées chirurgies oculaires— parue dans la revue JAMA Ophtalmology. 

Mais un simple citoyen qui ne connaît rien aux études cliniques —ou aux statistiques— et qui, surtout, aurait voulu voir dans ces données la « preuve » de sa croyance préférée, n’y aurait vu que du feu. 

La revue Nature a demandé au biostatisticien britannique Jack Wilkinson, de l'Université de Manchester, qui s’est spécialisé dans la détection de données douteuses, de passer au crible le document. Celui-ci, explique-t-il, contient de nombreuses erreurs révélant que le robot ne comprend pas trop ce qu’il fait: plusieurs participants auxquels il a attribué un sexe ne semblant pas correspondre à leur nom, pas de corrélation entre les mesures de la vision prises avant et après la présumée chirurgie, un nombre anormalement élevé de patients dont l’âge se termine par 7 ou 8… Bref, des « signes évidents » que ces données ont été « fabriquées ».

Mais tout le monde n’est pas un expert, et même parmi les experts, tout le monde ne prendra pas le temps de regarder à la loupe les données d'une recherche.

La manipulation des données par un chercheur peu scrupuleux a toujours été un enjeu dans la recherche, mais cet enjeu pourrait bientôt devenir plus important, note l’ophtalmologiste italien Giuseppe Giannaccare, de l’Université de Cagliari, auteur principal de « l’expérience ».