Le groupe scientifique international indépendant sur l’intelligence artificielle est composé de 40 membres et constitue le premier organisme scientifique mondial consacré à l’IA. Co-présidé entre autres par Yoshua Bengio, professeur au Département d'informatique et de recherche opérationnelle de l'Université de Montréal, il a pour mandat de produire un rapport annuel à partir de données scientifiques pour dresser un état des lieux des capacités, risques et impacts de l’IA. 

Dans ce premier rapport publié le 1er juillet dernier, le groupe reconnaît que les avantages potentiels de l’IA sont considérables, notamment pour le développement durable, la santé et l’éducation. Les progrès technologiques récents ouvrent en effet la voie à plusieurs applications utiles dans différents domaines.

Cependant, les auteurs du rapport rappellent que le développement de l’IA comporte également des risques pour les droits humains, les systèmes sociaux et l’environnement. Par exemple, cette technologie peut aggraver les problèmes de santé mentale des utilisateurs, contribuer à la désinformation et faciliter les fraudes.

Par ailleurs, les agents IA sont de plus en plus présents, souligne-t-on dans le rapport. Ces agents sont des systèmes informatiques capables de planifier et d'agir de manière autonome pour atteindre des objectifs. Bien que cette technologie puisse augmenter la productivité dans plusieurs domaines, elle suscite aussi son lot de préoccupations. Notamment, les auteurs s’inquiètent de l’absence de méthodes fiables pour s’assurer que ces agents autonomes demeurent sous le contrôle des programmeurs et qu’ils respectent les instructions qui leur ont été données.

Enfin, le rapport met en lumière que les progrès technologiques en intelligence artificielle dépassent aujourd’hui largement le rythme auquel se développe la compréhension de ces systèmes. Les auteurs insistent donc sur l’importance de mettre en place dès maintenant de bonnes pratiques de gouvernance et de prévoir des investissements ciblés pour que le développement de l’IA s'inscrive dans un cadre favorisant l'innovation tout en limitant les risques.