Fortschritte im Bereich Computer Vision konzentrieren sich auf die Entwicklung von Massenüberwachungstechnologien.

Der entscheidende Ball im Tennis-Finale zwischen Sinner und Alcaraz . Das x-te Abseits, das jedem Gegner von Hansi Flicks Barça-Team zugestanden wurde. Oder die automatische Korrektur von Körperhaltungen, um Verletzungen wie jene zu vermeiden, die Carolina Marín bei den Spielen in Paris um Gold brachten. Für all das wird Computer Vision bereits eingesetzt. Dieser Zweig der künstlichen Intelligenz (KI) steckt auch hinter der automatischen Identifizierung von Freunden auf Fotos, selbstfahrenden Autos und anderen aufkommenden Revolutionen wie der fortgeschrittenen Robotik oder der Entdeckung neuer Proteine. Das begehrte Objekt der künstlichen Sicht (AV) ist jedoch der Mensch: Laut einer im führenden wissenschaftlichen Journal Nature veröffentlichten Studie konzentriert sich die große Mehrheit der Studien (im Fachjargon „ Artikel “) und abgeleiteten Patente auf Menschen, auf die Identifizierung ihrer verschiedenen Körperteile, was sie tun und die Umgebungen, in denen sie sich bewegen.

Forscher verschiedener Universitäten in den USA und Europa haben seit 1990 Tausende von Artikeln verfasst und Patente angemeldet oder registriert – damals grenzte die Forschung im Bereich Computer Vision noch an Science-Fiction. Damals war das Extrahieren von Informationen aus Bildern oder Videos für Maschinen eine Herausforderung. Das ist auch heute noch so, wie die Verwendung visueller CAPTCHAs zur Bestätigung der Menschlichkeit zeigt. KI hat jedoch sowohl in ihrer Fähigkeit, Daten zu analysieren als auch zu interpretieren, Fortschritte gemacht. Computer Vision wird in vielen Bereichen eingesetzt . Es hilft den Menschen . Aber es hat auch eine Kehrseite, und die ist gewaltig.

Anhand von rund dreißig Schlüsselwörtern – einige so explizit wie Überwachung oder Gesichtserkennung , andere weniger offensichtlich wie Iris oder Flughafen – analysierten die Forscher 19.000 Beiträge zum Thema AV, die auf einer großen, seit über 30 Jahren jährlich stattfindenden Branchenkonferenz präsentiert wurden. Dasselbe taten sie mit 23.000 angemeldeten Patenten, die aus diesen Arbeiten hervorgegangen sind. Erstere legen die erzielten Fortschritte offen, letztere schützen sie, sodass nur ihre Autoren davon profitieren können.

Die Autoren fassen die Ergebnisse in ihrem Nature- Artikel zusammen: „Wir fanden heraus, dass 90 % der Artikel und 86 % der abgeleiteten Patente Daten zu menschlichen Probanden extrahierten.“ Die Mehrheit der Arbeiten, mehr als zwei Drittel, konzentrierte sich auf die Gewinnung von Informationen über den menschlichen Körper als Ganzes oder bestimmte Körperteile, insbesondere das Gesicht. Ein weiterer Teil der Artikel und Patente (18 % bzw. 16 %) extrahierte Daten aus menschlichen Räumen wie Arbeits-, Wohn- oder Verkehrsbereichen. Ein kleinerer, aber nicht unbedeutender Anteil von 1 % (5 % bei Patenten) fällt in die Kategorie der von den Forschern als „sozial relevanten menschlichen Daten“ bezeichneten Daten, die es Maschinen ermöglichen sollen, mentale Zustände, wirtschaftlichen Status, kulturelle Zugehörigkeit usw. zu verstehen.

Durch die zeitliche Einordnung dieser Ergebnisse lässt sich die Entstehung eines ganzen Ökosystems automatisierter Massenüberwachungstechnologien erkennen. Anfang der 1990er Jahre fanden sich lediglich wenige hundert Veröffentlichungen und abgeleitete Patente im Bereich der KI, und knapp die Hälfte davon befasste sich mit der Analyse menschlicher Daten. Zwei Jahrzehnte später hatte sich die jährliche Anzahl an Veröffentlichungen und Patenten verdreifacht, und 78 % davon befassten sich nun mit menschlichen Daten. Kombiniert man den absoluten Anstieg der Forschung im Bereich der maschinellen Bildverarbeitung mit dem relativen Anstieg menschenzentrierter Arbeiten, hat sich die Wissenschaft der KI-Überwachung verfünffacht.

„Es ist schwierig, eine eindeutige Ursache für den deutlichen Anstieg der Veröffentlichung von Artikeln und Patenten zum Thema Überwachung zu finden“, räumt Abeba Birhane, Forscherin am Trinity College Dublin (Irland) und Hauptautorin dieser Studie, in einer E-Mail ein. Sie nennt jedoch mehrere Faktoren: „Den technischen Fortschritt im Bereich der Computervision selbst, das Fehlen einer kritischen und sozial bewussten Kultur in diesem Bereich, institutionelle Strukturen, die Überwachung belohnen, oder das technologische Wunderdenken, das davon ausgeht, dass Überwachungstechnologien die Lösung für politische und kulturelle Probleme sind.“ Sie erwähnt außerdem den deutlichen Anstieg der Finanzierung aufgrund des Interesses mächtiger Organisationen, die von der Überwachung profitieren – sei es aus Machtgründen, zur Kontrolle oder aus finanziellen Gründen.

Weitere von den Autoren veröffentlichte Daten betreffen die Forschungskonzentration im Bereich KI. Spitzenreiter sind die USA, die mehr Forschung betreiben als alle anderen Länder zusammen. Mit etwas Abstand, aber weit vor dem drittplatzierten Land (Großbritannien), liegt China. Das dürfte nicht überraschen. Einerseits sind sie die beiden technologischen Supermächte, unabhängig von Zweck oder Nutzung der jeweiligen Technologie. Der autoritäre Charakter des chinesischen Regimes und die Verbindung zwischen dem US-Militär und der Rüstungsindustrie und der Spitzenforschung würden den Rest erklären. Tatsächlich arbeiten zwei der wichtigsten Akteure der KI der nächsten Generation (die nicht unbedingt mit Computer Vision zu tun hat), Palantir und Anduril, mit der nationalen Sicherheit der USA zusammen . Ersterer entwickelt bereits ein System für die Trump-Administration, das sich speziell an Einwanderer richtet. Und OpenAI, der Entwickler von ChatGPT, hat vor Kurzem eine Vereinbarung mit dem US-Verteidigungsministerium unterzeichnet.

In einem ebenfalls in Nature erschienenen Kommentar diskutiert Jathan Sadowski, Forscher an der Monash University (Australien), der nicht an der Studie beteiligt war, eines ihrer Ergebnisse. Die Autoren analysierten die Entwicklung der in Artikeln und Patenten verwendeten Sprache und entdeckten eine Tendenz, deren Zweck durch zunehmend neutrale Wörter zu verschleiern oder sie ganz zu vermeiden. So tauchen beispielsweise Verweise auf Menschen, obwohl sie Gegenstand der Studien sind, immer seltener auf und werden durch Begriffe wie „Objekte “ ersetzt.

„Menschen als Objekte zu bezeichnen, könnte man als einfache Abkürzung der Ingenieurskunst betrachten“, schreibt Sadowski. Es würde einem allgemeineren Trend in der Techniksprache entsprechen. Doch für den Wissenschaftler lassen sich diese entmenschlichenden Praktiken nicht einfach ignorieren: „Diese Technologien entstehen in einem politischen und wirtschaftlichen Umfeld, in dem die Interessen großer Konzerne sowie von Militär- und Strafverfolgungsbehörden enormen Einfluss auf die Entwicklung und Nutzung von KI-Systemen haben.“