C’est qu’à travers le monde, en quelques années à peine, autant les forces policières que les plateformes de réseaux sociaux ont lancé des programmes de reconnaissance faciale — pour des choses aussi banales que d’identifier un visage dans une photo sur Facebook ou plus dérangeantes comme de retrouver un visage dans une foule lors d’un match de soccer ou un festival de rue. Qui plus est, ces « visages » s’accumulent dans des bases de données dont l’usage est rarement défini. Le dernier iPhone est passé de l’empreinte digitale à la reconnaissance de visage pour être déverrouillé. La compagnie aérienne JetBlue l’expérimente pour accélérer l’embarquement. Des piétons en Chine peuvent recevoir une amende s’ils ont traversé la rue au mauvais endroit. Et pire encore, ailleurs en Chine, la technologie semble servir à faire du profilage ethnique contre les minorités musulmanes de l’ouest du pays.

Même l’argument comme quoi les risques pour la vie privée seraient un faible prix à payer pour identifier plus vite des criminels, est loin d’être solide : la technologie n’est pas fiable à 100 %, et les estimations sur son efficacité varient considérablement, tout dépendant du lieu et du contexte. Un projet-pilote mené lors d’un festival de musique l’an dernier a identifié 12 suspects parmi 40 000 visages… sauf que seulement deux étaient vraiment sur la liste des suspects.

Qui plus est, la technologie semble connaître encore plus de ratés avec les gens de couleur et les femmes.

Pour démontrer les failles du système, l’association américaine de défense des libertés civiles (ACLU) a mené une expérience l’an dernier avec le système de reconnaissance d’Amazon. Résultat, le système a erronément « identifié » 28 élus du Congrès comme faisant partie d’une base de données de gens en état d’arrestation. L’ACLU demande un moratoire sur l’utilisation de la technologie par les services de police, et c’est dans ce contexte que San Francisco s’est prononcée cette semaine. L’exemple chinois fait également peur.

Aux États-Unis, un citoyen aurait d’ores et déjà une chance sur deux d’être à son insu dans une base de données policière de visages, selon un rapport du Centre sur la vie privée et la technologie… déjà vieux de deux ans.

C’est uniquement une volonté populaire, comme celle de San Francisco, qui pourrait inverser la vague, écrit le chroniqueur techno du New York Times, Farhad Manjoo. Parce que pour les services de police, cette technologie est un rêve devenu réalité : « vous ne serez jamais capable d’obtenir une masse d’empreintes digitales en secret. Vous ne serez jamais capable de faire cela avec l’ADN. À présent, on peut le faire avec la reconnaissance faciale. » Établir des règles et des limites sur son usage est donc devenu urgent.