Vooruitgang op het gebied van computer vision is gericht op de ontwikkeling van technologieën voor massabewaking.

De beslissende bal in de laatste tenniswedstrijd tussen Sinner en Alcaraz . De zoveelste buitenspelsituatie die een tegenstander van Hansi Flicks Barça-team kreeg. Of de automatische correctie van houdingen om blessures te voorkomen zoals die welke Carolina Marín ervan weerhield goud te winnen op de Spelen van Parijs. Computer vision wordt al voor dit alles gebruikt. Deze tak van kunstmatige intelligentie (AI) zit ook achter de automatische identificatie van vrienden op foto's, zelfrijdende auto's en andere opkomende revoluties, zoals geavanceerde robotica of de ontdekking van nieuwe eiwitten. Maar het felbegeerde object van kunstmatig zicht (AV) is de mens: volgens een studie gepubliceerd in Nature , het toonaangevende wetenschappelijke tijdschrift, richt de overgrote meerderheid van de studies ( papers , in jargon) en afgeleide patenten zich op mensen, op het identificeren van hun verschillende onderdelen, wat ze doen en de omgevingen waarin ze zich bewegen.

Onderzoekers van verschillende universiteiten in de Verenigde Staten en Europa hebben duizenden artikelen en ook duizenden patenten verzameld en geregistreerd sinds 1990, toen onderzoek naar computer vision nog grensde aan sciencefiction. Destijds was het extraheren van informatie uit een afbeelding of video een uitdaging voor machines. Dat is het nog steeds, zoals blijkt uit het gebruik van visuele CAPTCHA's om te bevestigen dat we mensen zijn. AI heeft echter zowel vooruitgang geboekt in het analyseren van data als in het interpreteren ervan. Er zijn veel gebieden waarin computer vision wordt gebruikt . Het helpt mensen . Maar het heeft ook een keerzijde, en die is enorm.

Met behulp van zo'n dertig trefwoorden, waarvan sommige zo expliciet waren als bewaking of gezichtsherkenning en andere minder voor de hand liggend, zoals iris of luchthaven , analyseerden de onderzoekers 19.000 artikelen over AV die werden gepresenteerd op een belangrijke jaarlijkse conferentie van de sector die al meer dan 30 jaar wordt gehouden. Ze deden hetzelfde met 23.000 geregistreerde patenten die op deze werken waren gebaseerd. De eerste onthullen de behaalde vooruitgang, de laatste beschermen deze zodat alleen de auteurs ervan kunnen profiteren.

De auteurs vatten de resultaten samen in hun Nature- artikel: "We ontdekten dat 90% van de artikelen en 86% van de afgeleide patenten gegevens over menselijke proefpersonen bevatten." De meeste artikelen, meer dan twee derde, richtten zich op het verkrijgen van informatie uit het menselijk lichaam als geheel of uit specifieke delen ervan, met name het gezicht. Een ander deel van de artikelen en patenten (respectievelijk 18% en 16%) haalde gegevens uit menselijke ruimtes zoals werk, thuis of openbaar vervoer. Een kleinere, maar niet onbelangrijke 1% (5% voor patenten) valt in de categorie die de onderzoekers "sociaal relevante menselijke gegevens" noemden. Deze gegevens zouden machines in staat stellen om mentale toestanden, economische status, culturele affiliatie, enz. te begrijpen.

Door deze resultaten op een tijdlijn te plaatsen, zien we de opkomst van een compleet ecosysteem van geautomatiseerde massasurveillancetechnologieën. Begin jaren negentig vonden ze slechts een paar honderd artikelen en afgeleide patenten op het gebied van AI, en amper de helft daarvan was gericht op het analyseren van menselijke data. Twee decennia later was de jaarlijkse productie van artikelen en patenten verdrievoudigd en was 78% nu gericht op menselijke data. Door de absolute toename van onderzoek naar machine vision te combineren met de relatieve toename van mensgericht werk, is de wetenschap van AI-surveillance vervijfvoudigd.

"Het is moeilijk om een ​​duidelijke oorzaak aan te wijzen voor de significante toename in de productie van artikelen en patenten over surveillance", erkent Abeba Birhane, onderzoeker aan Trinity College Dublin (Ierland) en hoofdauteur van deze studie, in een e-mail. Ze wijst echter op verschillende factoren: "De technische vooruitgang binnen het vakgebied computer vision zelf, het gebrek aan een kritische en sociaal bewuste cultuur binnen het vakgebied, institutionele structuren die surveillance belonen, of het magische denken rondom technologie dat ervan uitgaat dat surveillancetechnologieën de oplossing zijn voor politieke en culturele problemen." Ze noemt ook de significante toename in financiering als gevolg van de interesse van machtige organisaties die profiteren van surveillance, of het nu gaat om macht, controle of financieel gewin.

Andere gegevens die de auteurs hebben onthuld, zijn de concentratie van onderzoek op het gebied van AI. De Verenigde Staten lopen voorop, met meer onderzoek dan alle andere landen samen. Iets verder weg, maar ver voor het derde land (het Verenigd Koninkrijk), staat China. Dit zou geen verrassing moeten zijn. Aan de ene kant zijn zij de twee technologische supermachten, ongeacht het doel of gebruik van de technologie in kwestie. Bovendien zouden de autoritaire aard van het Chinese regime en de verbinding tussen het Amerikaanse leger en de defensie-industrie en geavanceerde wetenschap de rest verklaren. Sterker nog, twee van de meest relevante spelers in de volgende generatie AI (niet noodzakelijkerwijs gerelateerd aan computer vision), Palantir en Anduril, werken samen met de Amerikaanse nationale veiligheid . De eerste ontwikkelt al een systeem voor de Trump-regering dat zich richt op immigranten. En OpenAI, de maker van ChatGPT, heeft onlangs een overeenkomst getekend met het Amerikaanse ministerie van Defensie .

In een commentaar dat ook in Nature is gepubliceerd, bespreekt Jathan Sadowski, onderzoeker aan Monash University (Australië), die niet bij deze studie betrokken was, een van de bevindingen. De auteurs analyseerden de evolutie van de taal die in artikelen en patenten wordt gebruikt en ontdekten een tendens om het doel ervan te verdoezelen met steeds neutralere woorden of ze zelfs helemaal te elimineren. Zo komen verwijzingen naar mensen steeds minder vaak voor, ook al zijn ze het onderwerp van de studies, en worden ze vervangen door termen als 'objecten '.

"Mensen als objecten beschouwen zou je kunnen beschouwen als een simpele technische term", schrijft Sadowski. Het zou passen in een algemenere trend in de technologische taal. Maar voor deze wetenschapper kunnen deze onmenselijke praktijken niet zomaar worden genegeerd: "Deze technologieën worden gecreëerd in een politiek en economisch landschap waarin de belangen van grote bedrijven, militaire en wetshandhavingsinstanties een enorme invloed hebben op het ontwerp en gebruik van AI-systemen."