Apple entraînera ses modèles d'IA sur les conversations avec Siri : iOS 27 demande le consentement au premier lancement

Pendant des années, la réponse d'Apple à la question « sur quoi entraînez-vous votre IA » tenait en une phrase : vos données personnelles privées et vos interactions ne sont jamais utilisées pour entraîner nos modèles de fondation. Le 9 septembre, la phrase a perdu son point final. La page d'Apple sur l'IA responsable dit désormais « jamais utilisées pour entraîner nos modèles de fondation, sauf si vous choisissez explicitement d'aider à les améliorer », et iOS 27, attendu le lundi 14 septembre, demande ce choix à l'instant où vous activez Siri AI. Dites oui, et Apple pourra conserver votre audio, les transcriptions de ce que vous avez dit ou tapé, les réponses de Siri, et en faire écouter une partie à son personnel.

Ce qui a changé, mot pour mot

La modification a été rapportée par heise online le 12 septembre, après que des développeurs disposant de la release candidate d'iOS 27 ont décrit le nouvel écran de consentement. La page de recherche d'Apple sur la troisième génération de ses modèles de fondation, mise à jour le 9 septembre, porte le principe amendé. La même page affirme encore, dans sa section sur les données d'entraînement, que « nous n'utilisons pas les données personnelles privées ni les interactions de nos utilisateurs pour entraîner nos modèles de fondation », en citant comme sources le web public, des données sous licence, des jeux de données ouverts, des études dédiées et des données synthétiques. Les deux phrases figurent sur une seule page. La première décrit la règle ; la seconde, le passé.

Le texte qui compte est l'avis de confidentialité intégré à la version d'iOS 27. Il indique qu'Apple peut conserver « toutes vos interactions avec Siri et la dictée, y compris les données audio et les transcriptions de vos requêtes Siri tapées et dites, ainsi que les réponses de Siri ». Les données ne seraient pas liées au compte Apple, Apple « prend des mesures pour que les données personnelles ne soient ni stockées ni utilisées », et une partie peut être « examinée par du personnel de contrôle », l'audio n'étant écouté que par des employés d'Apple. Qui est ce personnel, combien de temps les enregistrements sont gardés et ce que signifie « mesures » n'est pas précisé.

Comment la boîte de dialogue est conçue

1. Vous passez à iOS 27 et activez Siri AI, le nouvel assistant annoncé en juin et livré maintenant.
2. Un écran vous demande d'aider à améliorer Siri. Le bouton d'accord est bien visible ; « Pas maintenant » apparaît en couleur atténuée en dessous.
3. Il n'existe aucun moyen de fermer l'écran sans choisir. « Pas maintenant » vaut refus, mais la formulation annonce une nouvelle demande.
4. Si vous avez accepté, ou ne savez plus ce que vous avez touché, allez dans Réglages, Confidentialité et sécurité, Analyse et améliorations, et désactivez l'interrupteur d'amélioration de Siri. Il arrête la collecte à venir ; il ne récupère pas ce qui a déjà été envoyé.

Pourquoi la promesse du cloud en fait partie

Siri AI et la plupart des fonctions Apple Intelligence tournent sur Private Cloud Compute, le système de serveurs qu'Apple décrit comme aussi privé qu'un traitement sur l'appareil : les requêtes ne sont pas stockées, ne sont accessibles à personne, Apple compris, et sont vérifiables par des chercheurs extérieurs. Avec iOS 27, le plus grand modèle serveur d'Apple tourne aussi sur du matériel NVIDIA dans Google Cloud, avec les mêmes garanties. Un programme d'entraînement qui conserve audio et transcriptions se place à côté de cette architecture, pas à l'intérieur, et la différence sera invisible pour la plupart des gens : le même assistant, la même voix, un chemin qui oublie et un chemin qui retient, séparés par une pression du doigt à la configuration.

Apple est déjà passé par là. En 2019, des sous-traitants ont raconté avoir écouté des enregistrements Siri captant des conversations médicales, des affaires et des rapports sexuels, sous des règles laxistes ; Apple a suspendu le programme, présenté ses excuses et rétabli l'écoute humaine en opt-in. La nouvelle boîte de dialogue est la seconde fois que l'entreprise demande. Elle arrive une semaine où les promesses d'Apple en matière de vie privée sont mises à l'épreuve de plusieurs côtés, depuis une injonction britannique sur le chiffrement d'iCloud que le Congrès combat désormais jusqu'à une montre qui écoute en continu. La différence, cette fois, est que les enregistrements sont voulus pour un produit, pas pour un contrôle qualité.

Que faire lundi

Si vous ne voulez pas de votre voix dans un jeu d'entraînement, touchez « Pas maintenant » quand Siri AI le demande, puis vérifiez une fois Analyse et améliorations, car l'interrupteur régit aussi l'ancienne relecture de Siri et de la dictée. Si vous gérez des appareils pour une famille ou une entreprise, le réglage est propre à chaque appareil et à chaque utilisateur ; un iPad partagé interrogera celui qui le configure. Et si vous avez déjà accepté et changé d'avis, l'interrupteur arrête les nouvelles données, mais le texte d'Apple n'offre aucun moyen de supprimer ce qui a été collecté : partez du principe que tout ce qui a été dit à Siri entre la mise à jour et le revirement peut être conservé.