Подрядчики Microsoft читают запросы к Copilot и видят загруженные фото

Когда вы просите Copilot поправить фотографию, снимок не останавливается на модели. По внутренним документам и рассказам самих оценщиков, которые получило издание 404 Media, сотни подрядчиков за деньги смотрят на то, что люди отправляют ассистенту Microsoft: исходный запрос, загруженную пользователем картинку и два варианта, которые Copilot из неё сделал. Их работа - сказать, какая правка лучше.

Очередь, которую они описывают, во многом состоит из сексуального. Один из оценщиков сказал 404 Media, что «лица всегда без размытия, а многие запросы сексуального характера и сомнительны с точки зрения согласия». Другой задал вопрос вслух: «Кто пишет эти запросы и кто решил, что Copilot теперь занимается по сути порнографией?»

Что именно видит оценщик

Задание намеренно скучное. Работнику показывают запрос пользователя, исходный снимок и два готовых результата, а он выбирает, какой лучше: следует ли правка инструкции, не тронуто ли то, что трогать не просили, нет ли артефактов. Инструкция в документах сформулирована ровно так буднично, как звучит: «Доверьтесь интуиции: когда вы смотрите на две правки рядом, какая сразу кажется лучше?»

А вот что проходит перед этой интуицией, люди себе не представляли. Оценщики описывают сексуализированные правки фотографий реальных женщин, съёмку под юбкой, материалы, поощряющие анорексию, и фетишные картинки с мультперсонажами. Один сказал коротко: «Меня передёрнуло». Набор идёт через Prolific, который рекламирует «обратную связь от людей на представительных выборках» для донастройки моделей и проверок безопасности; на вопросы 404 Media компания не ответила.

Microsoft ответила одной фразой: «Microsoft использует данные клиентов так, как описано в наших условиях использования, в том числе для улучшения продуктов и обеспечения соблюдения кодекса поведения». Это не опровержение. Это отсылка к бумагам, а в бумагах написано то же самое.

Всё это давно записано в справке

Неудобная деталь в том, что ничего не скрывали. В справке Microsoft по приватности Copilot сказано: «Некоторые разговоры с Copilot подлежат как автоматической, так и человеческой проверке в целях улучшения продукта и цифровой безопасности», а также что «ограниченная человеческая проверка необходима в рамках расследования при подозрении на нарушение кодекса поведения». Там же указано, что история разговоров по умолчанию хранится 18 месяцев, а загруженный файл лежит «не дольше 18 месяцев» и потом удаляется автоматически.

Так что сюжет не в том, что Microsoft нарушила обещание. Сюжет в том, что обещание, которое люди себе представляют, и обещание, которое они на самом деле получили, - это разные документы. Никто не читает справку по приватности, прежде чем кинуть в чат отпускное фото, и разрыв между «это обрабатывает ИИ» и «на это посмотрит посторонний человек с краудплатформы» как раз и есть источник неприятного сюрприза. Тот же разрыв мы разбирали по другим ассистентам в практическом гиде по безопасной работе с ИИ.

Почему переключатель обучения тут не спасает

Переключатель у пользователей есть. На copilot.com он лежит в профиле, дальше «Приватность» и «Обучение на активности в разговорах»; в приложениях для Windows и macOS - в настройках, там же в разделе приватности. Выключить его стоит, если вы не хотите кормить своими чатами обучение моделей. И стоит понимать, насколько узко он работает.

Собственная страница Microsoft описывает границу прямо: отказ «исключит вашу будущую активность в разговорах из использования для обучения этих моделей ИИ», но «не исключит ваши разговоры из использования для прочих улучшений продукта или системы, а также из использования в рекламных целях, для цифровой безопасности, безопасности и соответствия требованиям». Оценка качества правок изображений попадает ровно в «улучшение продукта». Выключив обучение, вы не выключили человека в очереди.

Есть одно более узкое исключение, о котором полезно знать: снимки, сделанные через Copilot Vision, по той же справке «обрабатываются только для ответа на ваш запрос и не используются для обучения моделей ИИ или персонализации». Это другой путь, не тот, в котором работали оценщики: они разбирали именно загруженные файлы с просьбой их отредактировать.

Что с этим делать на практике

Честное правило - старое, только пересказанное для нового интерфейса: считайте, что всё загруженное в потребительского ИИ-ассистента может прочитать посторонний. Не потому что случится утечка, а потому что проверка людьми и есть часть того, как продукт делают и модерируют. Ассистент от этого не становится бесполезным, просто часть данных в него отправлять не стоит.

• Исходите из того, что человек-оценщик может увидеть запрос и снимок вместе, с лицами
• Не загружайте чужие фотографии, документы, медицинские снимки и вообще всё, что выдаёт третьего человека, который на это не соглашался
• Переключатель обучения выключить можно, но не считайте его обещанием приватности: он убирает обучение модели, а не проверку качества
• Помните про сроки: история разговоров и загруженные файлы хранятся до 18 месяцев
• Чувствительное правьте офлайн-редактором у себя на устройстве, а не в облачном ассистенте
• На работе проверьте, в корпоративном ли вы тенанте или зашли личным аккаунтом: правила разные

И ещё одно, что стоит сказать прямо, раз уж сайт про сетевую приватность и здесь легко продать неверный ответ: VPN в этой истории не меняет ничего. Он скрывает, из какой сети пришло соединение, а речь о данных, которые вы сами сознательно отдаёте внутри своего аккаунта. Граница проходит не по тому, куда идёт трафик, а по тому, что вы кладёте в коробку. Та же граница видна в делах против сайтов с сексуализированными изображениями - например, когда прокуратура Манхэттена изъяла двенадцать сервисов дипфейк-порно: вред шёл за картинками, а не за соединением.