Clearview собрала ИИ, который превращает одно лицо в досье
Clearview AI шесть лет превращала лица в имена для полиции. WIRED нашёл следующий шаг прямо в коде сайта самой компании: невыпущенного помощника InquiryIQ, который берёт совпадение по лицу и дальше сам идёт искать про человека всё остальное. Clearview говорит, что это прототип и ни один сотрудник полиции им не пользовался.
Кратко
- InquiryIQ берёт данные из поиска по лицу и расходится по интернету: открывает страницы, разбирает изображения, снова прогоняет найденные фото через распознавание лиц.
- На выходе «граф кандидатов» - возможные личности и связи, плюс адреса, телефоны, работодатели, аккаунты в соцсетях, псевдонимы и история задержаний.
- Интерфейс сообщает, что возраст, пол и раса помогают системе принимать более разумные решения, а среди доступных моделей значится модель компании Илона Маска xAI.
- WIRED нашёл всё это в файлах, которые страница входа Clearview отдаёт браузеру любого посетителя ещё до авторизации.
Нашли у парадной двери
Ничего не взламывали. Когда вы открываете страницу входа Clearview, браузер скачивает файлы, нужные для отрисовки интерфейса, и эти файлы оказались разговорчивее, чем предполагалось: код плюс тысячи строк интерфейсного текста - подсказки, предупреждения, описания функций. Месяцем раньше WIRED тем же способом разобрал невыпущенный поисковый инструмент компании Flock Safety и собрал макет его интерфейса из публично отдаваемых файлов.
Что инструмент умеет по замыслу
- Следователь проводит обычный поиск по лицу в Clearview и отмечает детали, которые считает существенными.
- Эти детали ложатся в профиль вместе с возрастом, полом, расой, цветом волос и глаз. В интерфейсе сказано, что это помогает ИИ принимать более разумные решения при поиске.
- Помощник ищет по вебу и по изображениям, открывает страницы и прогоняет встреченные по пути фотографии через распознавание лиц Clearview.
- Он возвращает граф кандидатов - возможные личности и связи - и дополняет профиль возможными адресами, телефонами, работодателями, аккаунтами в соцсетях, историей задержаний и псевдонимами.
- Сотрудник принимает или отклоняет каждую находку. Собственное предупреждение Clearview гласит, что сгенерированные демографические данные, соцсети и сведения о задержаниях могут оказаться неточными, а сотрудник обязан подтвердить, что проверил их самостоятельно.
В прототипе, который изучил WIRED, в интерфейсе был переключатель модели, отвечающей за рассуждения: в списке значились xAI и Amazon Bedrock. Генеральный директор Амос Кайлер говорит, что переключатель существовал для внутреннего сравнения моделей инженерами, а не для выбора полицейскими. Amazon сообщила WIRED, что AWS к разработке InquiryIQ отношения не имеет.
Почему исследователи называют это «цифровым обшариванием»
Эндрю Гатри Фергюсон, профессор права Университета Джорджа Вашингтона, изучающий ИИ и полицейскую работу, именно так называет автоматическое расследование такого рода. Дело не в том, что какой-то один факт секретен. Дело в том, что факты, которые раньше лежали по разным местам и за каждым нужно было идти ногами, стягиваются в один профиль на машинной скорости.
Вудро Харцог, исследователь приватности из Бостонского университета, формулирует жёстче: трудозатраты на проверку человека сами по себе были защитой, и никто не писал правил против слежки, которую попросту невозможно было вести массово.
Действующие механизмы защиты приватности строились в мире, где предполагалось определённое трение в способности государства собирать сведения о людях.
Вудро Харцог, Бостонский университет, в комментарии WIRED
Практическое следствие не в том, что полиция раскроет больше преступлений, хотя может и раскроет. Оно в том, что проверить человека становится достаточно дёшево, чтобы делать это по наитию. Поиск, который стоил бы следователю недели, теперь имеет смысл запустить «на всякий случай».
Человек в контуре
Ответ Clearview на все претензии в том, что каждое утверждение просматривает живой человек, а инструмент выдаёт зацепки, а не выводы. Возражение Харцога в том, что проверяющий, которому весь день подсовывают уверенные ответы, со временем превращается в штамп.
Задокументированный пример уже есть, и InquiryIQ в нём ни при чём. В деле United States v. Sant в Миннесоте, где фигурировали работавшие под прикрытием агенты Министерства внутренней безопасности и слежка за политическими активистами, защита получила отчёт Clearview, собранный примерно из пятнадцати лет съёмок протестов. Все результаты в нём были помечены как принятые одним и тем же пользователем, включая совпадение, которое сама Clearview отметила как менее вероятное, - а такое выгружается только если кто-то его принял. Защита утверждает, что в отчёт попали фотографии совсем другого человека, а заодно его беременной жены и маленькой дочери.
Майкл Прайс, директор по судебной работе Центра Четвёртой поправки Национальной ассоциации адвокатов по уголовным делам, ставит вопрос о надёжности в тех терминах, в которых его будет разбирать суд, ведь этот материал может лечь в обоснование достаточных оснований для задержания.
Склонному к выдумкам чат-боту при любых других обычных обстоятельствах не доверили бы роль осведомителя.
Майкл Прайс, Центр Четвёртой поправки NACDL, в комментарии WIRED
Направление не новое
Патент Clearview, поданный в августе 2020 года и выданный в феврале 2022-го, уже описывал краулер, который собирает изображения лиц вместе с привязанной к ним персональной информацией, а найдя вероятное совпадение, возвращает имя, адрес, телефон, электронную почту и ссылки на социальные, профессиональные и корпоративные страницы. Среди применений там перечислена проверка биографии по лицу, а также распознавание вторых лиц на фотографии, чтобы установить связь между изображёнными.
Собственная реклама компании для разведки и оборонных заказчиков говорит прямее любого критика: традиционный сбор данных отталкивается от известных «селекторов» вроде номера телефона или адреса почты, а с инструментами Clearview селектором становится лицо человека.
- The New York Times раскрывает, что Clearview собрала более 3 млрд изображений. Начинаются иски и проверки регуляторов, сбор данных продолжается.
- Clearview подаёт патент на краулер, связывающий лица с именами, адресами и местами работы. Патент выдан в феврале 2022 года.
- Пограничная служба США запрашивает 15 лицензий Clearview для аналитиков погранслужбы, ссылаясь на разработку сетей связей и стратегический анализ.
- WIRED публикует материал об InquiryIQ, найденном в публично отдаваемых файлах страницы входа Clearview.
Clearview тут и не одинока. Разведывательные платформы, которые продают полиции, - SocialNet компании ShadowDragon, Tangles компании Penlink, Fivecast - уже помогают следователям вытаскивать псевдонимы и связи и рисовать цифровой след человека.
Один честный плюс
Фергюсон отмечает то, о чём критики обычно молчат. Следователи и так роются в базах, отбрасывают версии и идут за догадками, почти ничего из этого не фиксируя. Система, которая сохраняет свои запросы, поиски, выбранную модель и пройденные пути, оставляет более проверяемый след, чем живой человек. Он называет это лучом света, а потом добавляет, что за шестнадцать лет наблюдения за полицейскими технологиями видел один и тот же сценарий: сначала внедряют, правила придумывают потом.
Что это значит, если вас никто не расследует
Неприятная часть истории в том, что ничего из исходного материала не украдено. Это фотография, на которой вас отметил знакомый, старый профиль на форуме, страница компании со списком отдела, заметка в местных новостях с вашим именем. По отдельности безобидно, вместе - досье, и единственным, что держало эти кусочки порознь, была необходимость потратить на их сборку несколько человеко-дней.
VPN тут стоит упомянуть ровно затем, чтобы его исключить. Он меняет маршрут вашего трафика и адрес, который видят сервисы. Он ничего не меняет в материалах, которые вы или другие люди опубликовали годы назад под вашим именем и с вашим лицом. Работают здесь скучные вещи: что вы публикуете, что позволяете отмечать другим и сколько ваших фотографий вообще лежит на открытых страницах.
