Os avanços na visão computacional estão focados no desenvolvimento de tecnologias de vigilância em massa.

A bola decisiva na partida final de tênis entre Sinner e Alcaraz . O enésimo impedimento marcado para qualquer adversário do time do Barça de Hansi Flick. Ou a correção automática de posturas para evitar lesões como a que impediu Carolina Marín de ganhar o ouro nos Jogos de Paris. A visão computacional já está sendo usada para tudo isso. Este ramo da inteligência artificial (IA) também está por trás da identificação automática de amigos em fotos, carros autônomos e outras revoluções emergentes, como a robótica avançada ou a descoberta de novas proteínas. Mas o objeto cobiçado da visão artificial (VA) são os humanos: de acordo com um estudo publicado na Nature , a principal revista científica, a grande maioria dos estudos ( papers , no jargão) e patentes derivadas se concentram nas pessoas, na identificação de suas diferentes partes, o que fazem e os ambientes em que se movem.

Pesquisadores de diversas universidades nos Estados Unidos e na Europa compilaram milhares de artigos e também milhares de patentes depositadas ou registradas desde 1990, quando a pesquisa em visão computacional ainda beirava a ficção científica. Naquela época, extrair informações de uma imagem ou vídeo era um desafio para as máquinas. Ainda é, como demonstrado pelo uso de CAPTCHAs visuais para confirmar que somos humanos. No entanto, a IA avançou tanto em sua capacidade de analisar dados quanto em sua capacidade de interpretá-los. Existem muitos campos nos quais a visão computacional está sendo utilizada . Está ajudando os humanos . Mas também tem uma desvantagem, e é enorme.

Utilizando cerca de trinta palavras-chave, algumas tão explícitas quanto vigilância ou reconhecimento facial e outras menos óbvias, como íris ou aeroporto , os pesquisadores analisaram 19.000 artigos sobre AV apresentados em uma importante conferência anual do setor, realizada há mais de 30 anos. Fizeram o mesmo com 23.000 patentes registradas derivadas desses trabalhos. Os primeiros divulgam os avanços alcançados, os segundos os protegem para que apenas seus autores possam lucrar com eles.

Os autores resumem os resultados em seu artigo na Nature : "Descobrimos que 90% dos artigos e 86% das patentes derivadas extraíram dados relacionados a seres humanos." A maioria dos artigos, mais de dois terços, concentrou-se na obtenção de informações do corpo humano como um todo ou de partes específicas dele, especialmente o rosto. Outra parcela dos artigos e patentes (18% e 16%, respectivamente) extraiu dados de espaços humanos, como trabalho, casa ou áreas de trânsito. Um percentual menor, mas não insignificante, de 1% (5% para patentes) se enquadra na categoria que os pesquisadores chamaram de "dados humanos socialmente relevantes", que buscariam permitir que as máquinas compreendessem estados mentais, status econômico, afiliação cultural, etc.

É colocando esses resultados em uma linha do tempo que detectamos o surgimento de todo um ecossistema de tecnologias automatizadas de vigilância em massa. No início da década de 1990, eles encontraram apenas algumas centenas de artigos e patentes derivadas na área de IA, e apenas metade se concentrava na análise de dados humanos. Duas décadas depois, a produção anual de artigos e patentes triplicou, e 78% agora se concentravam em dados humanos. Combinando o aumento absoluto na pesquisa em visão computacional e o aumento relativo no trabalho centrado no ser humano, a ciência da vigilância por IA quintuplicou.

“É difícil estabelecer uma causa clara para o aumento significativo na produção de artigos e patentes relacionados à vigilância”, reconhece Abeba Birhane, pesquisadora do Trinity College Dublin (Irlanda) e autora sênior deste estudo, por e-mail. No entanto, ela aponta vários fatores: “O avanço técnico da própria área da visão computacional, a falta de uma cultura crítica e socialmente consciente na área, estruturas institucionais que recompensam a vigilância ou o pensamento mágico em torno da tecnologia que pressupõe que as tecnologias de vigilância sejam a solução para problemas políticos e culturais.” Ela também menciona o aumento significativo no financiamento devido ao interesse investido por organizações poderosas que se beneficiam da vigilância, seja por poder, controle ou ganho financeiro.

Outro dado que os autores revelaram é a concentração de pesquisas na área de IA. Liderando o caminho estão os Estados Unidos, produzindo mais pesquisas do que todos os outros juntos. Um pouco distante, mas muito à frente do terceiro colocado (o Reino Unido), está a China. Isso não deveria ser surpreendente. Por um lado, são as duas superpotências tecnológicas, independentemente da finalidade ou uso da tecnologia em questão. Além disso, a natureza autoritária do regime chinês e a conexão entre a indústria militar e de defesa dos EUA e a ciência de ponta explicariam o resto. De fato, dois dos players mais relevantes em IA de próxima geração (não necessariamente relacionados à visão computacional), Palantir e Anduril, estão colaborando com a segurança nacional dos EUA . A primeira já está desenvolvendo um sistema para o governo Trump visando imigrantes. E a OpenAI, criadora do ChatGPT, assinou recentemente um acordo com o Departamento de Defesa dos EUA .

Em um comentário também publicado na Nature , o pesquisador Jathan Sadowski, da Universidade Monash (Austrália), que não participou do estudo, discute uma de suas descobertas. Os autores analisaram a evolução da linguagem usada em artigos e patentes, detectando uma tendência a obscurecer seu propósito com palavras cada vez mais neutras ou a eliminá-las completamente. Por exemplo, referências a humanos aparecem cada vez menos frequentemente, embora sejam o tema dos estudos, e estão sendo substituídas por termos como "objetos ".

“Referir-se a humanos como objetos poderia ser considerado uma simples abreviação da engenharia”, escreve Sadowski. Isso se encaixaria em uma tendência mais geral da linguagem tecnológica. Mas, para este cientista, essas práticas desumanizadoras não podem ser ignoradas levianamente: “Essas tecnologias são criadas em um cenário político e econômico em que os interesses de grandes corporações e instituições militares e policiais têm enorme influência no design e no uso de sistemas de IA.”