Les progrès de la vision par ordinateur se concentrent sur le développement de technologies de surveillance de masse.

La balle décisive lors du dernier match de tennis entre Sinner et Alcaraz . Le énième hors-jeu signalé à n'importe quel adversaire du Barça d'Hansi Flick. Ou encore la correction automatique des postures pour éviter les blessures comme celle qui a empêché Carolina Marín de remporter l'or aux Jeux de Paris. La vision par ordinateur est déjà utilisée pour tout cela. Cette branche de l'intelligence artificielle (IA) est également à l'origine de l'identification automatique des amis sur les photos, des voitures autonomes et d'autres révolutions émergentes, comme la robotique avancée ou la découverte de nouvelles protéines. Mais l'objet convoité de la vision artificielle (VA), ce sont les humains : selon une étude publiée dans Nature , la revue scientifique de référence, la grande majorité des études ( articles , dans le jargon) et des brevets qui en découlent se concentrent sur les personnes, sur l'identification de leurs différentes parties, de leurs activités et des environnements dans lesquels elles évoluent.

Des chercheurs de plusieurs universités américaines et européennes ont compilé des milliers d' articles et déposé des milliers de brevets depuis 1990, époque à laquelle la recherche en vision par ordinateur frôlait encore la science-fiction. À l'époque, extraire des informations d'une image ou d'une vidéo était un défi pour les machines. Cela l'est toujours, comme le démontre l'utilisation de CAPTCHA visuels pour confirmer notre humanité. Cependant, l'IA a progressé tant dans sa capacité à analyser les données que dans sa capacité à les interpréter. La vision par ordinateur est utilisée dans de nombreux domaines. Cela aide les humains . Mais cela a aussi un inconvénient, et il est énorme.

À l'aide d'une trentaine de mots-clés, certains aussi explicites que « surveillance » ou « reconnaissance faciale » et d'autres moins évidents, comme « iris » ou « aéroport » , les chercheurs ont analysé 19 000 articles sur les véhicules autonomes présentés lors d'une importante conférence annuelle du secteur, organisée depuis plus de 30 ans. Ils ont fait de même avec 23 000 brevets déposés issus de ces travaux. Les premiers divulguent les avancées réalisées, les seconds les protègent afin que seuls leurs auteurs puissent en tirer profit.

Les auteurs résument les résultats dans leur article paru dans Nature : « Nous avons constaté que 90 % des articles et 86 % des brevets dérivés extrayaient des données relatives à des sujets humains. » La majorité des articles, plus des deux tiers, se concentraient sur l'obtention d'informations provenant du corps humain dans son ensemble ou de parties spécifiques de celui-ci, notamment le visage. Une autre partie des articles et des brevets (18 % et 16 % respectivement) extrayaient des données d'espaces humains tels que le travail, le domicile ou les lieux de transit. Un pourcentage plus faible, mais non négligeable, de 1 % (5 % pour les brevets) relève de la catégorie que les chercheurs ont appelée « données humaines socialement pertinentes », qui viserait à permettre aux machines de comprendre les états mentaux, le statut économique, l'appartenance culturelle, etc.

C'est en plaçant ces résultats sur une ligne du temps que l'on décèle l'émergence de tout un écosystème de technologies automatisées de surveillance de masse. Au début des années 1990, on ne recensait que quelques centaines d'articles et de brevets dérivés dans le domaine de l'IA, dont à peine la moitié étaient consacrés à l'analyse de données humaines. Deux décennies plus tard, la production annuelle d' articles et de brevets avait triplé, et 78 % étaient désormais axés sur les données humaines. En combinant l'augmentation absolue de la recherche en vision artificielle et l'augmentation relative des travaux centrés sur l'humain, la science de la surveillance par IA a quintuplé.

« Il est difficile d'établir une cause claire de l'augmentation significative de la production d'articles et de brevets liés à la surveillance », reconnaît Abeba Birhane, chercheuse au Trinity College de Dublin (Irlande) et auteure principale de cette étude, dans un courriel. Elle pointe toutefois plusieurs facteurs : « Les avancées techniques dans le domaine de la vision par ordinateur, l'absence de culture critique et de conscience sociale dans ce domaine, les structures institutionnelles qui valorisent la surveillance, ou encore la pensée magique entourant la technologie, qui suppose que les technologies de surveillance sont la solution aux problèmes politiques et culturels. » Elle mentionne également l'augmentation significative des financements due à l'intérêt manifesté par de puissantes organisations qui tirent profit de la surveillance, que ce soit pour le pouvoir, le contrôle ou l'appât du gain.

Une autre donnée révélée par les auteurs concerne la concentration de la recherche dans le domaine de l'IA. Les États-Unis sont en tête, produisant plus de recherche que tous les autres pays réunis. Un peu loin, mais loin devant le troisième pays (le Royaume-Uni), se trouve la Chine. Cela n'a rien de surprenant. D'une part, ce sont les deux superpuissances technologiques, quel que soit le but ou l'usage de la technologie en question. De plus, la nature autoritaire du régime chinois et le lien entre l'armée et l'industrie de défense américaines et la science de pointe expliqueraient le reste. En effet, deux des acteurs les plus importants de l'IA de nouvelle génération (pas nécessairement liés à la vision par ordinateur), Palantir et Anduril, collaborent avec la sécurité nationale américaine . Le premier développe déjà un système pour l'administration Trump ciblant les immigrants. OpenAI, créateur de ChatGPT, a récemment signé un accord avec le ministère américain de la Défense .

Dans un commentaire également publié dans Nature , Jathan Sadowski, chercheur à l'Université Monash (Australie), qui n'a pas participé à cette étude, présente l'une de ses conclusions. Les auteurs ont analysé l'évolution du langage utilisé dans les articles et les brevets, détectant une tendance à obscurcir leur objet par des mots de plus en plus neutres, voire à les éliminer complètement. Par exemple, les références aux humains apparaissent de moins en moins fréquemment, bien qu'ils soient l'objet des études, et sont remplacées par des termes comme « objets ».

« Qualifier les humains d'objets pourrait être considéré comme un simple raccourci technique », écrit Sadowski. Cela s'inscrirait dans une tendance plus générale du langage technologique. Mais pour ce scientifique, ces pratiques déshumanisantes ne peuvent être ignorées à la légère : « Ces technologies sont créées dans un paysage politique et économique où les intérêts des grandes entreprises et des institutions militaires et policières ont une influence considérable sur la conception et l'utilisation des systèmes d'IA. »