I collaboratori di Microsoft leggono le richieste a Copilot e vedono le foto caricate
Quando chiedete a Copilot di ritoccare una foto, l'immagine non si ferma al modello. Secondo documenti interni e racconti di valutatori ottenuti da 404 Media, centinaia di collaboratori sono pagati per guardare ciò che le persone mandano all'assistente di Microsoft: la richiesta originale, l'immagine caricata dall'utente e due versioni prodotte da Copilot. Il loro compito è dire quale ritocco è migliore.
La coda che descrivono è in buona parte sessuale. Uno di loro ha detto a 404 Media che «i volti non sono mai oscurati, e molte richieste sono di natura sessuale e dubbie sul piano del consenso». Un altro ha posto la domanda ad alta voce: «Chi scrive queste richieste e chi ha deciso che Copilot ora serve in sostanza a generare porno?»
In breve
- Il valutatore vede la richiesta, la foto caricata e due versioni generate, e le giudica.
- Il reclutamento passa da Prolific, piattaforma che vende riscontro umano per l'IA.
- La guida di Microsoft parla da tempo di revisione automatica e umana.
- L'interruttore «non addestrare sulle mie conversazioni» non chiude questa strada.
Che cosa vede davvero il valutatore
Il compito è volutamente banale. Al lavoratore vengono mostrati la richiesta dell'utente, l'immagine di partenza e due risultati, e sceglie il migliore: il ritocco segue l'istruzione, resta intatto ciò che doveva restare intatto, ci sono artefatti. L'istruzione citata nei documenti è disinvolta quanto sembra: «Fidatevi dell'intuito: guardando i due ritocchi affiancati, quale sembra subito il migliore?»
Quello che scorre davanti a questo intuito è la parte che gli utenti non avevano immaginato. I valutatori descrivono ritocchi sessualizzati di donne reali, scatti sotto la gonna, materiale che incoraggia l'anoressia e immagini feticistiche costruite attorno a personaggi dei cartoni. Uno ha detto solo: «Ho avuto un moto di ripulsa.» Il reclutamento passa da Prolific, che pubblicizza «riscontro umano da popolazioni rappresentative» per la messa a punto delle preferenze e le valutazioni di sicurezza; l'azienda non ha risposto alle domande di 404 Media.
Microsoft ha risposto con una frase: «Microsoft utilizza i dati dei clienti come descritto nelle nostre condizioni d'uso, anche per migliorare i prodotti e far rispettare il nostro codice di condotta.» Non è una smentita, è un rimando alle carte, e le carte dicono la stessa cosa.
Tutto questo è già scritto nella guida
Il dettaglio scomodo è che nulla era nascosto. Le domande frequenti sulla privacy di Copilot dicono che «alcune conversazioni con Copilot sono soggette sia a revisione automatizzata sia a revisione umana per finalità di miglioramento del prodotto e di sicurezza digitale», e che «una revisione umana limitata è necessaria nell'ambito dell'indagine quando si sospetta una violazione del codice di condotta». La stessa pagina fissa in 18 mesi la conservazione predefinita delle conversazioni e precisa che un file caricato resta «non più di 18 mesi» prima della cancellazione automatica.
La storia quindi non è che Microsoft abbia rotto una promessa. È che la promessa che le persone hanno in testa e quella che hanno davvero ricevuto sono due documenti diversi. Nessuno legge le domande frequenti sulla privacy prima di trascinare una foto delle vacanze in una finestra di chat, e la sorpresa sta esattamente fra «lo elabora un'IA» e «lo guarderà uno sconosciuto di una piattaforma di microlavoro». Lo stesso scarto lo abbiamo ripercorso per altri assistenti nella nostra guida pratica per usare l'IA senza scoprirsi.
Perché l'interruttore dell'addestramento non basta
L'interruttore c'è. Su copilot.com sta nel profilo, poi Privacy e «Addestramento sull'attività di conversazione»; nelle app per Windows e macOS, nelle impostazioni, nello stesso punto. Disattivarlo ha senso se non volete alimentare l'addestramento dei modelli, e conviene sapere quanto sia stretto il suo raggio.
La pagina di aiuto di Microsoft traccia il confine per esteso: la rinuncia «escluderà le vostre future attività di conversazione dall'addestramento di questi modelli di IA», ma «non escluderà le vostre conversazioni da altri miglioramenti generali del prodotto o del sistema, né dall'uso per finalità pubblicitarie, di sicurezza digitale, sicurezza e conformità». La valutazione di qualità dei ritocchi rientra in pieno nel «miglioramento del prodotto». Spegnendo l'addestramento non avete spento la persona in coda.
C'è un'eccezione più ristretta che vale la pena conoscere: le immagini catturate con Copilot Vision, secondo le stesse domande frequenti, «sono elaborate solo per rispondere alla vostra richiesta e non vengono usate per addestrare modelli di IA o personalizzare l'esperienza». È un percorso diverso da quello del file caricato con la richiesta di modificarlo, ed è in quest'ultimo che lavoravano i valutatori.
Che cosa farne in pratica
La regola onesta è quella di sempre, raccontata per un'interfaccia nuova: considerate che tutto ciò che caricate in un assistente IA di consumo può essere letto da uno sconosciuto. Non perché stia per esserci una fuga di dati, ma perché la revisione umana fa parte di come il prodotto viene costruito e sorvegliato. L'assistente non diventa inutile; diventano una cattiva idea certi contenuti in ingresso.
- Partite dal presupposto che una persona possa vedere insieme richiesta e immagine, volti compresi
- Non caricate foto altrui, documenti, immagini mediche né nulla che identifichi un terzo che non ha acconsentito
- L'interruttore dell'addestramento potete spegnerlo, ma non prendetelo per una promessa di privacy: toglie l'addestramento, non la revisione di qualità
- Tenete presenti i tempi: conversazioni e file caricati restano fino a 18 mesi
- Il materiale delicato ritoccatelo offline sul vostro dispositivo invece che in un assistente in cloud
- Al lavoro verificate se siete nel tenant aziendale o con un account personale: le regole cambiano
E un'ultima cosa da dire chiaramente, visto che questo sito parla di privacy in rete e qui sarebbe facile vendere la risposta sbagliata: una VPN in questa storia non cambia nulla. Nasconde da quale rete arriva la connessione, mentre qui si parla di dati che consegnate consapevolmente dal vostro account. Il confine non è dove va il traffico, ma che cosa mettete nella scatola. Lo stesso confine si vede nei procedimenti contro i siti di immagini sessualizzate, per esempio quando la procura di Manhattan ha sequestrato dodici servizi di porno deepfake: il danno seguiva le immagini, non la connessione.
