Os prestadores da Microsoft leem os pedidos ao Copilot e veem as fotos carregadas

Quando pede ao Copilot para retocar uma fotografia, a imagem não fica pelo modelo. Segundo documentos internos e relatos de avaliadores obtidos pela 404 Media, centenas de prestadores são pagos para olhar para aquilo que as pessoas enviam ao assistente da Microsoft: o pedido original, a imagem carregada pelo utilizador e duas versões que o Copilot produziu a partir dela. O trabalho deles é dizer qual retoque é melhor.

A fila que descrevem é em boa parte sexual. Um deles disse à 404 Media que «os rostos nunca estão desfocados, e muitos pedidos são de natureza sexual e duvidosos quanto ao consentimento». Outro fez a pergunta em voz alta: «Quem escreve estes pedidos e quem decidiu que o Copilot agora serve basicamente para gerar pornografia?»

O que o avaliador vê de facto

A tarefa é propositadamente banal. Mostram ao trabalhador o pedido do utilizador, a imagem de partida e dois resultados, e ele escolhe o melhor: o retoque segue a instrução, ficou intacto o que devia ficar, há artefactos. A instrução citada nos documentos é tão informal como parece: «Confie na sua intuição: ao olhar para os dois retoques lado a lado, qual parece imediatamente melhor?»

O que passa diante dessa intuição é a parte que os utilizadores não imaginavam. Os avaliadores descrevem retoques sexualizados de mulheres reais, fotografias por baixo da saia, material que incentiva a anorexia e imagens fetichistas construídas à volta de personagens de desenhos animados. Um resumiu assim: «Recuei.» O recrutamento passa pela Prolific, que anuncia «avaliação humana de populações representativas» para afinação de preferências e testes de segurança; a empresa não respondeu às perguntas da 404 Media.

A Microsoft respondeu com uma frase: «A Microsoft utiliza os dados dos clientes conforme descrito nos nossos termos de utilização, incluindo para melhorar os nossos produtos e fazer cumprir o nosso código de conduta.» Não é um desmentido, é um reenvio para os papéis, e os papéis dizem o mesmo.

Tudo isto já está escrito na ajuda

O pormenor incómodo é que nada foi escondido. As perguntas frequentes de privacidade do Copilot dizem que «algumas conversas com o Copilot estão sujeitas a revisão automatizada e humana para fins de melhoria do produto e de segurança digital», e que «é necessária uma revisão humana limitada no âmbito da investigação quando se suspeita de uma violação do código de conduta». A mesma página fixa em 18 meses a conservação por omissão das conversas e indica que um ficheiro carregado fica guardado «não mais de 18 meses» antes da eliminação automática.

Por isso a história não é a de uma promessa quebrada. É que a promessa que as pessoas têm na cabeça e a que receberam de facto são dois documentos diferentes. Ninguém lê umas perguntas frequentes de privacidade antes de arrastar uma foto de férias para uma janela de conversa, e a surpresa está precisamente entre «isto é processado por uma IA» e «isto vai ser visto por um desconhecido de uma plataforma de microtrabalho». O mesmo desfasamento percorremos com outros assistentes no nosso guia prático para usar a IA sem ficar exposto.

Porque o botão do treino não chega

O botão existe. No copilot.com está no perfil, depois Privacidade e «Treino com a atividade de conversa»; nas aplicações para Windows e macOS, nas definições, no mesmo sítio. Desligá-lo faz sentido se não quer alimentar o treino dos modelos, e vale a pena perceber o quão estreito é o seu alcance.

A página de ajuda da Microsoft traça o limite com todas as letras: a recusa «excluirá as suas futuras atividades de conversa do treino destes modelos de IA», mas «não excluirá as suas conversas de outras melhorias gerais do produto ou do sistema, nem da utilização para fins publicitários, de segurança digital, segurança e conformidade». A avaliação da qualidade dos retoques cai exatamente na «melhoria do produto». Ao desligar o treino não desligou a pessoa que está na fila.

Há uma exceção mais estreita que vale a pena conhecer: as imagens captadas com o Copilot Vision, segundo as mesmas perguntas frequentes, «são processadas apenas para responder ao seu pedido e não são usadas para treinar modelos de IA nem para personalizar a experiência». É um circuito diferente do ficheiro carregado com pedido de edição, e era neste último que os avaliadores trabalhavam.

O que fazer com isto na prática

A regra honesta é a de sempre, contada para uma interface nova: parta do princípio de que tudo o que carrega num assistente de IA de consumo pode ser lido por um desconhecido. Não porque vá haver uma fuga, mas porque a revisão por pessoas faz parte da forma como o produto é construído e fiscalizado. Isso não torna o assistente inútil; torna má ideia certos conteúdos.

• Assuma que uma pessoa pode ver o pedido e a imagem juntos, rostos incluídos
• Não carregue fotos de outros, documentos, imagens médicas nem nada que identifique um terceiro que não consentiu
• Pode desligar o botão do treino, mas não o tome por uma promessa de privacidade: retira o treino, não a revisão de qualidade
• Tenha presentes os prazos: conversas e ficheiros carregados ficam até 18 meses
• O que for sensível, edite offline no seu próprio equipamento em vez de num assistente na nuvem
• No trabalho, verifique se está no tenant da empresa ou com conta pessoal: as regras mudam

E mais uma coisa que convém dizer sem rodeios, já que este site trata de privacidade na rede e aqui seria fácil vender a resposta errada: uma VPN não muda nada nesta história. Esconde de que rede vem a ligação, e aqui falamos de dados que entrega conscientemente a partir da sua própria conta. A fronteira não está para onde vai o tráfego, mas no que coloca dentro da caixa. A mesma fronteira aparece nos processos contra sites de imagens sexualizadas, por exemplo quando a procuradoria de Manhattan apreendeu doze serviços de pornografia deepfake: o dano seguia as imagens, não a ligação.