intelligence-artificielle-verifier-texte.jpeg

Est-ce que la « bouillie » générée par l’IA —ce que les anglophones appellent le AI slop— commence à atteindre les revues médicales? Si ce sont de vraies études, ce n’est pas de la fraude —mais ce sont des études peu utiles, que des revues n’auraient jadis pas publiées, et qui posent à nouveau la légitimité du vieux principe « publier ou périr ».

Essentiellement, la « AI slop » a juste été remplacée par de la science « sans intérêt » commente le co-fondateur du blogue Retraction Watch, Ivan Oransky. Bien que ça puisse être « une tromperie si vous ne divulguez pas l’usage de l’IA, ce n’est pas de la fraude ». 

Le site médical MedPage Today évoque à ce sujet, dans un article paru le 24 septembre, la pression à publier qui est inhérente à l’écosystème de la recherche —le fameux « publier ou périr », régulièrement dénoncé, mais toujours dominant. Devant une étude qui a abouti à des résultats sans grand intérêt, un chercheur n’aurait jadis pas pris la peine d’écrire un texte. Mais une IA peut désormais le faire à sa place et lui permettre d’inscrire sur son CV une nouvelle publication quelque part. 

Abonnez-vous à notre infolettre!

Pour ne rien rater de l'actualité scientifique et tout savoir sur nos efforts pour lutter contre les fausses nouvelles et la désinformation!

Pour les revues médicales, le risque est de voir leurs comités de révision —c’est-à-dire les experts d’un domaine qui relisent et commentent les articles soumis—être submergés par des textes qui n’en valent pas la peine. Dans une étude prépubliée en août, trois chercheurs concluaient que la plupart des revues biomédicales « montraient des signes » de rédactions assistées par des larges modèles de langage ».

Et les premiers signaux d’alerte étaient venus de la bioinformatique. En 2025, l’éditeur Frontiers était devenu le premier à exiger une validation supplémentaire des données soumises, non pas une validation par les auteurs mais par leurs institutions. La mesure s’applique aux manuscrits consistant uniquement en une analyse de données bioinformatiques. La raison de cette nouvelle exigence : il est facile à un chercheur moins scrupuleux de faire écrire par l’IA une étude produite uniquement à partir de données déjà publiques, mais son institution est capable de repérer si son chercheur était ou non engagé dans une collecte de données originale. 

Dans les 12 derniers mois, déclare à MedPage Today la directrice de l’intégrité de la recherche chez Frontiers, son équipe a rejeté « plus de 12 000 textes soumis » qui étaient basés sur de simples recherches « dans les bases de données publiques ». 

D’autres éditeurs, comme Springer Nature et le New England Journal of Medicine, reconnaissent avoir récemment révisé leurs politiques internes pour réduire le risque que des « flots d’études médiocres » n’engorgent le système de révision par les pairs. Cela passe par un mélange de « surveillance humaine » et d’outils de détection de textes générés par l’IA. 

Mais considérant que ces outils sont encore très imparfaits, la vraie solution, à terme, sera peut-être de combattre une fois pour toutes le « publier ou périr », poursuit Oransky. « Si les écoles de médecine et les universités ne veulent pas voir la littérature [scientifique] être submergée par du déchet, alors elles devraient cesser de donner à chaque candidat un incitatif » à publier le plus possible et le plus vite possible. 

Je donne
EN VEDETTE
Publicité
Appel à tous!
Publicité