Les faux-débats de la reconnaissance faciale

(Chronique Fisheye #39) Un article récent du New York Times illustre la dérive du journalisme technologique, devenu instigateur de paniques morales. Intitulé «Comment les photos de vos enfants servent la société de surveillance», il se présente comme une fable de la faillite des utopies libertaires du web 2.0, confrontées à la froide rationalité du capitalisme de prédation et des derniers développements de l’intelligence artificielle. Qu’on en juge. L’histoire s’ouvre avec une mère de famille découvrant les photos de ses enfants, téléchargées en 2005 sur la plate-forme Flickr, au sein d’une base de données de plusieurs millions d’images, prélevées sans autorisation sur le site, qui sert aujourd’hui de terrain d’exercice à des centaines d’entreprises pour mettre au point les algorithmes de reconnaissance faciale, avec notamment Google, Amazon, Mitsubishi Electric, ou les chinois Tencent et SenseTime.

A côté des images qui témoignent de la présence de photos de famille dans la base MegaFace, le quotidien new-yorkais publie le portrait actuel de Chloé Papa, âgée de 19 ans, l’air sérieux, qui déclare: «J’aurais aimé qu’on me demande mon avis avant». Jouant sur la sensibilité au consentement et la culpabilité de parents ayant exposé involontairement leurs enfants, l’article souligne l’absence de protection des données personnelles des Américains. Mais il dévoile également une faille juridique: l’Etat de l’Illinois s’est doté d’une législation qui permet le contrôle des données biométriques, susceptible de générer des plaintes collectives à hauteur de plusieurs milliards de dollars, selon l’avis d’avocats spécialisés.

La reprise de ce récit par de nombreux médias montre les limites de la compréhension des mécanismes en jeu. Selon le quotidien italien La Repubblica, qui dénonce le «scandale MegaFace», les anciens usagers de Flickr dont les images ont été utilisées sans autorisation risquent de voir leur identité reconnue plus rapidement, puisque leurs portraits ont servi à entraîner les logiciels. Cette crainte est évidemment sans fondement, car les outils de détection ne sont pas construits à partir des photos prélevées, qui ont seulement été utilisées pour la mise au point des algorithmes de reconnaissance. S’il est désagréable de se dire que des photos de famille partagées en toute innocence alimentent l’industrie de la surveillance, cet usage n’expose les individus photographiés à aucun archivage à des fins d’identification, ni à aucun désagrément direct.

Il n’y a de fait rien à reprocher à l’université de Washington, qui a conçu en 2015 la base de données MegaFace en respectant les clauses des licences Creative Commons associées aux photos de Flickr, et en sélectionnant celles qui autorisent la réutilisation. Mise à disposition des chercheurs en intelligence artificielle, cette ressource publique est rapidement devenue un outil d’évaluation comparative (benchmark) pour les entreprises spécialisées, qui voient leurs essais classés en fonction du taux de réussite de leur algorithme. Cette base n’est évidemment pas le seul outil de test des applications de surveillance, et il est probable que les vastes ensembles de données visuelles réunis par les réseaux sociaux comme Facebook alimentent de façon plus discrète l’amélioration de la reconnaissance.

Faut-il en tirer la conclusion qu’il vaut mieux renoncer à poster des photos en ligne, façon drastique de limiter les usages indésirables? Pourtant, la participation à la conversation numérique est une liberté qui contribue à peser sur la sphère publique, et les images personnelles constituent une alternative précieuse à la vision stéréotypée de la production commerciale. Plutôt que la limitation de cette capacité, il importe de faire évoluer la protection des droits individuels en fonction des nouveaux usages des données biométriques.

Ajoutons que les technologies de surveillance ne visent pas des images en ligne, mais des individus dans la société. Le vrai scandale n’est pas la réutilisation de vieilles photos de famille, mais le fait que nous soyons tous, dans un futur proche, exposés à l’inquisition d’administrations qui, au nom de la sécurité, contrôleront nos déplacements dans l’espace public. Résister à cette perspective n’est pas une question d’images, mais de droits civils et de protection des libertés, comme l’illustre la courageuse décision de la ville de San Francisco d’interdire la reconnaissance faciale.