A Apple vai treinar os seus modelos de IA com as conversas com o Siri: o iOS 27 pede consentimento no primeiro arranque
Durante anos, a resposta da Apple à pergunta "com que treinam a vossa IA" cabia numa frase: os seus dados pessoais privados e as suas interações nunca são usados para treinar os nossos modelos de base. A 9 de setembro, a frase perdeu o ponto final. A página da Apple sobre IA responsável diz agora "nunca usados para treinar os nossos modelos de base, a menos que escolha explicitamente ajudar a melhorá-los", e o iOS 27, previsto para segunda-feira, 14 de setembro, pede essa escolha no momento em que liga o Siri AI. Diga que sim e a Apple pode guardar o seu áudio, as transcrições do que disse ou escreveu e as respostas do Siri, e deixar funcionários ouvir parte disso.
Em resumo
- A Apple reescreveu discretamente o seu princípio de IA responsável: os dados dos utilizadores ficam fora do treino "a menos que escolha explicitamente ajudar a melhorar" os modelos.
- A release candidate do iOS 27 mostra uma caixa de diálogo ao ativar o Siri AI: aceitar, ou tocar num "Agora não" de cor esbatida. Não se pode fechar sem escolher.
- O que o consentimento abrange, segundo o texto de privacidade da versão: todas as interações com o Siri e o ditado, incluindo áudio, transcrições de pedidos falados e escritos e respostas do Siri; sem ligação à conta Apple, revistas em parte por funcionários da Apple.
- O momento: na mesma semana em que a Apple apresentou relógios que guardam os últimos 15 segundos de áudio e resumem o seu dia no Siri Recap, ambas funções que passam pela nuvem que a Apple prometeu ser privada.
O que mudou, palavra por palavra
A alteração foi noticiada pela heise online a 12 de setembro, depois de programadores com a release candidate do iOS 27 terem descrito o novo ecrã de consentimento. A página de investigação da Apple sobre a terceira geração dos seus modelos de base, atualizada a 9 de setembro, contém o princípio alterado. A mesma página continua a afirmar, na secção sobre dados de treino, que "não usamos os dados pessoais privados nem as interações dos nossos utilizadores ao treinar os nossos modelos de base", listando como fontes a web pública, dados licenciados, conjuntos abertos, estudos próprios e dados sintéticos. As duas frases estão numa só página. A primeira descreve a regra; a segunda, o passado.
O texto que conta é o aviso de privacidade dentro da versão do iOS 27. Diz que a Apple pode guardar "todas as suas interações com o Siri e o ditado, incluindo os dados de áudio e as transcrições dos seus pedidos ao Siri escritos e falados, bem como as respostas do Siri". Os dados, afirma-se, não estão ligados à conta Apple, a Apple "toma medidas para garantir que os dados pessoais não são guardados nem usados", e uma parte pode ser "revista por pessoal de revisão", sendo o áudio ouvido apenas por funcionários da Apple. Quem é esse pessoal, quanto tempo as gravações ficam guardadas e o que significa "medidas" não é explicado.
Como a caixa de diálogo está construída
- Atualiza para o iOS 27 e liga o Siri AI, o novo assistente que a Apple anunciou em junho e está a lançar agora.
- Um ecrã pede-lhe para ajudar a melhorar o Siri. O botão de aceitar é destacado; "Agora não" aparece por baixo numa cor esbatida.
- Não há forma de fechar o ecrã sem escolher. "Agora não" é uma recusa, mas a formulação deixa antever um novo pedido.
- Se aceitou, ou não tem a certeza do que tocou, vá a Definições, Privacidade e segurança, Análise e melhorias, e desligue o interruptor de melhoria do Siri. O interruptor trava a recolha futura; não recupera o que já foi enviado.
Porque é que a promessa da nuvem faz parte disto
O Siri AI e a maioria das funções do Apple Intelligence correm no Private Cloud Compute, o sistema de servidores que a Apple descreve como tão privado como o processamento no dispositivo: os pedidos não são guardados, não são acessíveis a ninguém, incluindo a Apple, e são verificáveis por investigadores externos. Com o iOS 27, o maior modelo de servidor da Apple corre também em hardware NVIDIA na Google Cloud com as mesmas garantias. Um programa de treino que guarda áudio e transcrições fica ao lado dessa arquitetura, não dentro dela, e a diferença será invisível para a maioria: o mesmo assistente, a mesma voz, um caminho que esquece e outro que se lembra, separados por um toque durante a configuração.
A Apple já passou por aqui. Em 2019, subcontratados contaram que ouviam gravações do Siri com conversas médicas, negócios e sexo, com regras frouxas; a Apple suspendeu o programa, pediu desculpa e repôs a revisão humana como opt-in. A nova caixa de diálogo é a segunda vez que a empresa pergunta. Chega numa semana em que as promessas de privacidade da Apple são postas à prova de vários lados, desde uma ordem britânica sobre a encriptação do iCloud que o Congresso agora combate até um relógio que ouve continuamente. A diferença, desta vez, é que as gravações são pretendidas para um produto, não para controlo de qualidade.
O que fazer na segunda-feira
Se não quer a sua voz num conjunto de treino, toque em "Agora não" quando o Siri AI perguntar e depois verifique uma vez Análise e melhorias, porque o mesmo interruptor governa também a antiga revisão do Siri e do ditado. Se gere dispositivos para uma família ou uma empresa, a definição é por dispositivo e por utilizador; um iPad partilhado perguntará a quem o configurar. E se já aceitou e mudou de ideias, o interruptor trava os dados novos, mas o texto da Apple não oferece forma de apagar o que foi recolhido, por isso assuma que tudo o que foi dito ao Siri entre a atualização e a mudança de ideias pode ficar guardado.
