IA et démocratie : concilier les gains et les risques

L’utilisation de l’intelligence artificielle (IA) suscite un intérêt croissant dans l’administration publique en raison de son potentiel de gain d’efficacité. Cela comporte toutefois des risques pour la démocratie, comme le souligne une étude menée par des scientifiques britanniques.

Qu’en pensent les citoyens ?

Des chercheurs du Royaume-Uni ont réalisé un sondage auprès de 1200 citoyens pour recueillir leur opinion sur l’utilisation de l’IA dans l’administration publique. Les premiers résultats, publiés en mai dernier, n’ont pas encore été validés par des pairs, mais ils apportent un éclairage intéressant.

Abonnez-vous à notre infolettre!

Pour ne rien rater de l'actualité scientifique et tout savoir sur nos efforts pour lutter contre les fausses nouvelles et la désinformation!

Initialement, les personnes interrogées étaient favorables à l’utilisation de l’IA par l’État, convaincues qu’elle pourrait améliorer l’efficacité de certaines tâches administratives routinières. Un des auteurs de l’étude souligne toutefois qu’il ne faut pas s’intéresser uniquement aux gains d’efficacité à court terme : les risques à long terme doivent également être pris en compte.

Les risques identifiés

Il est parfois difficile de savoir comment l’IA prend des décisions. Les gouvernements risquent également de devenir de plus en plus dépendants de l’IA. De plus, les citoyens ne disposent pas nécessairement de procédures claires pour contester les décisions prises par l’IA, ce qui peut avoir des conséquences graves.

Par exemple, l’automatisation du traitement des demandes d’aide sociale aux États-Unis a entraîné des dizaines de milliers d’accusations injustifiées de fraudes, poussant des personnes à la faillite ou les menant à perdre leur maison.

Quand les chercheurs ont informé les participants de ces risques, les craintes associées à l’IA ont augmenté de façon importante. La proportion de personnes qui souhaitait une moins grande place de l’IA dans l’administration publique est passée de 20 % à 65 %. De plus, le sentiment de perdre le contrôle démocratique du gouvernement est passé de 45 % à 81 %.

Il est quand même possible pour les gouvernements d’utiliser l’IA tout en respectant le processus démocratique, croit un chercheur interrogé par le New Scientist qui n’a pas participé à l’étude. Cependant, pour cela, il est essentiel d’anticiper les préoccupations de la population, tout en assurant l’imputabilité et la transparence de ces processus, ajoutent les auteurs de l’étude.