Au point où deux chercheurs ont jugé nécessaire de lancer un avertissement: de tels « fantômes génératifs » pourraient être « réconfortants » pour les personnes qui vivent un deuil, mais pourraient aussi créer de la dépendance à l’égard de cette technologie, au point d’empêcher des gens d’aller de l’avant avec leur vie.

Leur texte est paru sur la plateforme de prépublication ArXiv en janvier. 

C’est qu’en théorie, la technologie qui permet à des « agents conversationnels », depuis qu’ils ont été lancés sur le marché il y a un an, d’avoir l’air convaincants, permettrait tout autant de simuler une personne décédée, pour peu qu’on puisse alimenter l’algorithme avec suffisamment de courriels, de textes et de contenus diffusés par cette personne, sur les réseaux sociaux ou ailleurs.

Il n’est toutefois pas dit que ça va nécessairement exister. En théorie, un pays pourrait règlementer l’usage des données personnelles d’une personne après son décès. Mais en l’absence d’interdit, l’état actuel de la technologie n’est pas si loin de pouvoir permettre cette « expérience ». Et en attendant, une compagnie sud-coréenne a déjà eu l’idée d’offrir de vous créer une « version synthétique » de vous-même —image et voix— à condition que vous vous soumettiez, avant votre décès, à 7 heures d’entrevues vidéo. 

Jed Brubaker, de l’Université du Colorado et Meredith Morris, de Google DeepMind, introduisent dans leur texte le concept de « fantôme » génératif, en référence à l’expression IA générative —soit une IA capable de « générer » du texte ou de l’image. Mais ce choix les amène à craindre que, dans certains cas, des personnes puissent en venir à percevoir cette IA comme un « vrai » fantôme, avec tout ce que cela implique : après tout, des gens adressent depuis toujours des prières à leurs défunts, attendent d’eux des signes, voire intègrent ces défunts dans leurs croyances religieuses. Jusqu’où certains iront-ils lorsque ce « défunt » donnera l’illusion qu’il leur écrit des messages?