Clearview construyó una IA que convierte una cara en un expediente
Durante seis años Clearview AI convirtió caras en nombres para la policía. WIRED acaba de encontrar el paso siguiente en el código de la web de la propia compañía: un asistente sin lanzar llamado InquiryIQ, diseñado para tomar una coincidencia facial y salir a buscar por su cuenta todo lo demás sobre esa persona. Clearview sostiene que es un prototipo y que ningún agente lo ha usado nunca.
En resumen
- InquiryIQ parte de los datos de una búsqueda facial y se despliega por la web: abre páginas, analiza imágenes y vuelve a pasar por reconocimiento facial las fotos que encuentra.
- Arma un «Candidate Graph» de identidades y relaciones posibles, más direcciones, teléfonos, empleadores, cuentas sociales, alias e historial de detenciones.
- La interfaz dice que aportar edad, género y raza ayuda al sistema a tomar decisiones más inteligentes, y entre los modelos disponibles figura el de xAI, la empresa de Elon Musk.
- WIRED lo halló en los archivos que la página de acceso de Clearview entrega a cualquier visitante antes incluso de iniciar sesión.
Encontrado en la puerta principal
No se pirateó nada. Cuando usted abre la página de acceso de Clearview, su navegador descarga los archivos que necesita para dibujar la interfaz, y esos archivos resultaron más habladores de lo previsto: código y miles de líneas de texto de interfaz, entre ellas instrucciones, advertencias y descripciones de funciones. Un mes antes WIRED había usado el mismo método con Flock Safety y reconstruido la interfaz de una herramienta de búsqueda sin lanzar a partir de archivos servidos públicamente.
Qué está diseñada para hacer
- Un investigador lanza una búsqueda facial corriente en Clearview y marca los detalles que considera relevantes.
- Esos datos pasan a un perfil junto con edad, género, raza, color de pelo y de ojos. La interfaz afirma que eso ayuda a la IA a tomar decisiones más inteligentes durante sus búsquedas.
- El asistente busca en la web y en fuentes de imágenes, abre páginas y pasa por el reconocimiento facial de Clearview las fotografías que se encuentra por el camino.
- Devuelve un Candidate Graph de identidades y relaciones posibles, y completa el perfil con posibles direcciones, teléfonos, empleadores, cuentas sociales, historial de detenciones y alias.
- El agente acepta o rechaza cada hallazgo. La propia advertencia de Clearview dice que los datos demográficos, sociales y judiciales generados pueden ser exactos o no, y el agente debe declarar que los verificó por su cuenta.
En el prototipo que revisó WIRED, la interfaz incluía un selector del modelo encargado del razonamiento, con xAI y Amazon Bedrock en la lista. El consejero delegado Amos Kyler dice que ese selector existía para que los ingenieros compararan modelos durante las pruebas, no para que la policía eligiera uno. Amazon comunicó a WIRED que AWS no participa en el desarrollo de InquiryIQ.
Por qué los investigadores hablan de rebusca digital
Andrew Guthrie Ferguson, profesor de derecho en la Universidad George Washington especializado en IA y policía, usa esa expresión para este tipo de investigación automatizada. El problema no es que algún dato suelto sea secreto. Es que datos que antes vivían en sitios separados, y que exigían que alguien fuera a buscarlos uno a uno, quedan reunidos en un único perfil a velocidad de máquina.
Woodrow Hartzog, estudioso de la privacidad en la Universidad de Boston, lo formula de manera más filosa: el esfuerzo de investigar a una persona era en sí mismo una protección, y nadie escribió normas contra una vigilancia que sencillamente resultaba demasiado laboriosa para hacerse a gran escala.
Las protecciones de privacidad que tenemos hoy se construyeron sobre todo en un mundo que daba por supuesta cierta fricción en la capacidad de los gobiernos para recopilar información sobre las personas.
Woodrow Hartzog, Universidad de Boston, a WIRED
La consecuencia práctica no es que la policía resuelva más casos, aunque pudiera. Es que mirar la vida de alguien sale lo bastante barato como para hacerlo por corazonada. Una búsqueda que a un investigador le habría costado una semana ahora compensa lanzarla ante un simple quizá.
El humano en el circuito
La respuesta de Clearview a todo esto es que una persona revisa cada afirmación y que la herramienta saca pistas, no conclusiones. La réplica de Hartzog es que quien recibe respuestas seguras todo el día acaba convirtiéndose en un sello de goma.
Ya existe un ejemplo documentado, y en él InquiryIQ no tiene nada que ver. En un caso de Minnesota, United States v. Sant, con agentes encubiertos de seguridad interior y vigilancia de activistas políticos, la defensa obtuvo un informe de Clearview elaborado a partir de unos quince años de fotografía de protestas. Todos los resultados aparecían marcados como aceptados por un mismo usuario, incluida una coincidencia que la propia Clearview había etiquetado como menos probable y que solo puede exportarse si alguien la acepta. La defensa sostiene que el informe arrastró fotografías de un hombre completamente distinto, junto con las de su mujer embarazada y su hija pequeña.
Michael Price, director de litigios del Centro de la Cuarta Enmienda de la asociación nacional de abogados penalistas, plantea la cuestión de la fiabilidad en los términos que usaría un tribunal, porque este material puede acabar sosteniendo una causa probable.
A un chatbot propenso a alucinar no se le confiaría el papel de informante en ninguna otra circunstancia normal.
Michael Price, Centro de la Cuarta Enmienda de la NACDL, a WIRED
La dirección no es nueva
Una patente de Clearview presentada en agosto de 2020 y concedida en febrero de 2022 ya describía un rastreador que recoge imágenes de caras junto con la información personal asociada y, ante una coincidencia probable, devuelve nombre, dirección, teléfono, correo y enlaces a páginas sociales, profesionales y de empleadores. Entre los usos citaba la comprobación de antecedentes a partir del rostro, y contemplaba detectar segundas caras en una fotografía para establecer una relación entre las personas que aparecen.
El propio argumentario de la empresa ante clientes de inteligencia y defensa lo dice más crudamente que cualquier crítico: la recopilación tradicional parte de selectores conocidos como un teléfono o un correo, y con las herramientas de Clearview el selector es la cara de la persona.
- The New York Times revela que Clearview raspó más de 3000 millones de imágenes. Llegan demandas e investigaciones; el raspado continúa.
- Clearview presenta la patente del rastreador que enlaza caras con nombres, direcciones y empleadores. Concedida en febrero de 2022.
- La aduana estadounidense solicita 15 licencias de Clearview para personal de inteligencia, citando el análisis de redes.
- WIRED publica InquiryIQ, hallado en los archivos de acceso servidos públicamente por Clearview.
Clearview tampoco está sola. Plataformas de inteligencia vendidas a las fuerzas del orden, como SocialNet de ShadowDragon, Tangles de Penlink y Fivecast, ya ayudan a los investigadores a sacar alias y contactos y a cartografiar la huella digital de una persona.
Una ventaja honesta
Ferguson señala algo que los críticos suelen saltarse. Los investigadores ya rebuscan en bases de datos, descartan pistas y siguen corazonadas sin dejar constancia de casi nada. Un sistema que guarda sus instrucciones, sus búsquedas, el modelo empleado y los caminos recorridos deja un rastro más auditable que un humano. Lo llama un rayo de luz, y añade que en dieciséis años observando tecnología policial ha visto siempre el mismo guion: primero se despliega, la gobernanza se resuelve después.
Qué significa si a usted no lo investiga nadie
Lo incómodo de esta historia es que nada del material de partida está robado. Es la foto en la que le etiquetó un conocido, el viejo perfil de un foro, la página de la empresa con la lista del equipo, la nota del periódico local con su nombre. Inofensivo por separado, un expediente en conjunto, y lo único que mantenía esas piezas separadas era que juntarlas costaba varios días de trabajo humano.
La VPN merece mención aquí solo para descartarla. Cambia la ruta de su tráfico y la dirección que ven los servicios. No cambia nada del material que usted u otros publicaron hace años con su nombre y su cara. Lo que de verdad funciona son las cosas aburridas: qué publica, qué deja que otros etiqueten y cuánta cara suya hay ya en páginas abiertas.