Clearview hat eine KI gebaut, die aus einem Gesicht ein Dossier macht

Sechs Jahre lang hat Clearview AI für die Polizei Gesichter in Namen verwandelt. WIRED hat den nächsten Schritt nun im Code der firmeneigenen Website gefunden: einen unveröffentlichten Assistenten namens InquiryIQ, der einen Gesichtstreffer aufgreift und anschließend selbst nach allem Übrigen über die Person sucht. Clearview sagt, es handle sich um einen Prototyp, den nie ein Polizist benutzt habe.

Gefunden an der Haustür

Es wurde nichts gehackt. Wer Clearviews Login-Seite öffnet, dessen Browser lädt die Dateien herunter, die er zum Zeichnen der Oberfläche braucht, und diese Dateien waren gesprächiger als beabsichtigt: Code plus tausende Zeilen Oberflächentext, darunter Hinweise, Warnungen und Funktionsbeschreibungen. Einen Monat zuvor hatte WIRED mit demselben Vorgehen ein unveröffentlichtes Suchwerkzeug von Flock Safety auseinandergenommen und dessen Oberfläche aus öffentlich ausgelieferten Dateien nachgebaut.

Was das Werkzeug laut Entwurf leisten soll

1. Ein Ermittler führt eine gewöhnliche Gesichtssuche bei Clearview durch und markiert die Details, die er für relevant hält.
2. Diese Angaben wandern in ein Profil, zusammen mit Alter, Geschlecht, ethnischer Zuordnung, Haar- und Augenfarbe. Laut Oberfläche helfen sie der KI, bei ihren Suchen klügere Entscheidungen zu treffen.
3. Der Assistent durchsucht Web und Bildquellen, öffnet Seiten und lässt unterwegs gefundene Fotos durch Clearviews Gesichtserkennung laufen.
4. Er liefert einen Candidate Graph möglicher Identitäten und Kontakte und füllt das Profil mit möglichen Adressen, Telefonnummern, Arbeitgebern, Social-Media-Konten, Festnahmehistorie und Aliasnamen.
5. Der Beamte nimmt jeden Fund an oder verwirft ihn. Clearviews eigene Warnung sagt, die erzeugten demografischen Angaben, Social-Media-Daten und Festnahmedaten könnten zutreffen oder auch nicht, und der Beamte muss bestätigen, sie unabhängig geprüft zu haben.

Im Prototyp, den WIRED einsah, enthielt die Oberfläche einen Schalter für das Modell, das die Recherche steuert; aufgeführt waren xAI und Amazon Bedrock. Geschäftsführer Amos Kyler sagt, dieser Schalter habe dem internen Modellvergleich der Ingenieure gedient, nicht der Auswahl durch die Polizei. Amazon teilte WIRED mit, AWS sei an der Entwicklung von InquiryIQ nicht beteiligt.

Warum Forscher von digitalem Durchwühlen sprechen

Andrew Guthrie Ferguson, Rechtsprofessor an der George Washington University mit Schwerpunkt KI und Polizeiarbeit, benutzt diesen Ausdruck für automatisierte Ermittlung dieser Art. Der Punkt ist nicht, dass eine einzelne Tatsache geheim wäre. Der Punkt ist, dass Tatsachen, die früher getrennt lagen und für die jemand hätte losgehen müssen, in Maschinengeschwindigkeit zu einem Profil zusammengezogen werden.

Woodrow Hartzog, Privatsphäre-Forscher an der Boston University, formuliert es schärfer: Der Aufwand, jemanden zu durchleuchten, war selbst ein Schutz, und niemand schrieb Regeln gegen eine Überwachung, die schlicht zu mühsam war, um sie in der Breite zu betreiben.

Die Schutzmechanismen für Privatsphäre, die wir heute haben, entstanden vor allem in einer Welt, die ein gewisses Maß an Reibung bei der staatlichen Informationsbeschaffung voraussetzte.

Woodrow Hartzog, Boston University, gegenüber WIRED

Die praktische Folge ist nicht, dass die Polizei mehr Fälle löst, auch wenn sie das könnte. Sie ist, dass es billig genug wird, jemanden auf Verdacht zu überprüfen. Eine Recherche, die einen Ermittler eine Woche gekostet hätte, lohnt jetzt schon bei einem Vielleicht.

Der Mensch in der Schleife

Clearviews Antwort auf all das lautet, ein Mensch prüfe jede Aussage, und das Werkzeug liefere Hinweise, keine Schlüsse. Hartzogs Einwand lautet, wer den ganzen Tag selbstbewusste Ergebnisse vorgelegt bekommt, wird mit der Zeit zum Stempel.

Ein dokumentiertes Beispiel gibt es bereits, und InquiryIQ hat damit nichts zu tun. In einem Verfahren in Minnesota, United States v. Sant, in dem verdeckt arbeitende Ermittler der Heimatschutzbehörde und die Überwachung politischer Aktivisten eine Rolle spielten, erhielt die Verteidigung einen Clearview-Bericht, der aus rund fünfzehn Jahren Protestfotografie zusammengestellt war. Jedes Ergebnis darin war als von ein und demselben Nutzer angenommen markiert, darunter ein Treffer, den Clearview selbst als weniger wahrscheinlich eingestuft hatte und der sich nur exportieren lässt, wenn ihn jemand annimmt. Die Verteidigung macht geltend, in den Bericht seien Fotos eines völlig anderen Mannes geraten, dazu die seiner schwangeren Frau und seiner kleinen Tochter.

Michael Price, Prozessleiter des Fourth Amendment Center der National Association of Criminal Defense Lawyers, stellt die Zuverlässigkeitsfrage in den Begriffen, in denen ein Gericht sie prüfen würde, denn solches Material kann einen hinreichenden Tatverdacht stützen.

Einem zu Halluzinationen neigenden Chatbot würde man unter allen anderen üblichen Umständen nicht die Rolle eines Informanten zutrauen.

Michael Price, Fourth Amendment Center der NACDL, gegenüber WIRED

Diese Richtung ist nicht neu

Ein im August 2020 eingereichtes und im Februar 2022 erteiltes Clearview-Patent beschrieb bereits einen Crawler, der Gesichtsbilder samt der daran hängenden persönlichen Angaben einsammelt und bei einem wahrscheinlichen Treffer Name, Adresse, Telefonnummer, E-Mail sowie Links zu sozialen, beruflichen und Arbeitgeberseiten zurückgibt. Als Anwendung war dort die Hintergrundprüfung anhand des Gesichts genannt, ebenso das Erkennen zweiter Gesichter auf einem Foto, um eine Beziehung zwischen den Abgebildeten festzustellen.

Die eigene Ansprache des Unternehmens an Nachrichtendienste und Verteidigungskunden sagt es deutlicher als jeder Kritiker: Herkömmliche Aufklärung geht von bekannten Selektoren wie Telefonnummer oder E-Mail-Adresse aus, und mit Clearviews Werkzeugen ist der Selektor das Gesicht.

1. 2020Die New York Times enthüllt, dass Clearview mehr als 3 Milliarden Bilder eingesammelt hat. Klagen und Verfahren folgen, das Sammeln geht weiter.
2. August 2020Clearview reicht das Patent für einen Crawler ein, der Gesichter mit Namen, Adressen und Arbeitgebern verknüpft. Erteilt im Februar 2022.
3. Februar 2026Die US-Grenzbehörde fordert 15 Clearview-Lizenzen für Aufklärungspersonal und verweist auf Netzwerkanalyse.
4. 10. September 2026WIRED veröffentlicht InquiryIQ, gefunden in Clearviews eigenen öffentlich ausgelieferten Login-Dateien.

Clearview steht damit nicht allein. Aufklärungsplattformen für Behörden, darunter SocialNet von ShadowDragon, Tangles von Penlink und Fivecast, helfen Ermittlern längst dabei, Aliasnamen und Kontakte zu finden und den digitalen Fußabdruck einer Person zu kartieren.

Ein ehrlicher Pluspunkt

Ferguson weist auf etwas hin, das Kritiker meist auslassen. Ermittler durchsuchen ohnehin Datenbanken, verwerfen Spuren und folgen Vermutungen, ohne das meiste davon festzuhalten. Ein System, das seine Eingaben, Suchen, das gewählte Modell und die eingeschlagenen Wege speichert, hinterlässt eine besser prüfbare Spur als ein Mensch. Er nennt das einen Lichtblick und fügt hinzu, er habe in sechzehn Jahren bei Polizeitechnik immer dasselbe Muster gesehen: erst einführen, die Regeln später klären.

Was das bedeutet, wenn gegen Sie niemand ermittelt

Der unangenehme Teil der Geschichte ist, dass nichts vom Ausgangsmaterial gestohlen ist. Es ist das Foto, auf dem ein Bekannter Sie markiert hat, das alte Forenprofil, die Firmenseite mit der Abteilungsliste, die Lokalmeldung mit Ihrem Namen. Einzeln harmlos, zusammen ein Dossier, und das Einzige, was diese Teile je getrennt hielt, war der Umstand, dass ihr Zusammentragen mehrere Personentage kostete.

Ein VPN gehört hier nur erwähnt, um es auszuschließen. Es ändert den Weg Ihres Datenverkehrs und die Adresse, die Dienste sehen. Es ändert nichts an Material, das Sie oder andere vor Jahren unter Ihrem Namen und mit Ihrem Gesicht veröffentlicht haben. Wirksam sind hier die langweiligen Dinge: was Sie veröffentlichen, was Sie andere markieren lassen und wie viel von Ihrem Gesicht überhaupt auf offenen Seiten liegt.