Microsofts Auftragskräfte lesen Copilot-Anfragen und sehen hochgeladene Fotos
Wenn Sie Copilot bitten, ein Foto zu bearbeiten, endet das Bild nicht beim Modell. Nach internen Unterlagen und Schilderungen von Prüfern, die 404 Media vorliegen, sehen Hunderte bezahlter Auftragskräfte, was Menschen an Microsofts Assistenten schicken: die ursprüngliche Anfrage, das hochgeladene Bild und zwei Varianten, die Copilot daraus gemacht hat. Ihre Aufgabe ist es zu sagen, welche Bearbeitung besser ist.
Die Warteschlange, die sie beschreiben, ist stark sexuell geprägt. Ein Prüfer sagte 404 Media, «Gesichter sind immer unverpixelt, und viele Anfragen sind sexueller Natur und im Hinblick auf Einwilligung zweifelhaft». Ein anderer stellte die naheliegende Frage laut: «Wer schreibt diese Anfragen, und wer hat entschieden, dass Copilot sich jetzt im Grunde um Pornografie dreht?»
Kurz gefasst
- Die Prüfer sehen Anfrage, hochgeladenes Foto und zwei erzeugte Varianten und bewerten sie.
- Rekrutiert wird über Prolific, eine Plattform, die menschliches Feedback für KI verkauft.
- In Microsofts eigener Hilfe steht seit Langem etwas zu automatischer und menschlicher Prüfung.
- Der Schalter gegen Training auf den eigenen Unterhaltungen schliesst diesen Weg nicht.
Was die Prüfer tatsächlich sehen
Die Aufgabe ist bewusst nüchtern gehalten. Der Arbeitskraft werden die Anfrage, das Ausgangsbild und zwei fertige Ergebnisse gezeigt, und sie wählt das bessere: Folgt die Bearbeitung der Anweisung, blieb unberührt, was unberührt bleiben sollte, gibt es Artefakte. Die in den Unterlagen zitierte Anweisung klingt genauso beiläufig, wie sie ist: «Vertrauen Sie Ihrer Intuition: Welche der beiden Bearbeitungen wirkt auf den ersten Blick besser?»
Was an dieser Intuition vorbeizieht, hatten sich die Nutzer anders vorgestellt. Die Prüfer berichten von sexualisierten Bearbeitungen realer Frauen, Aufnahmen unter den Rock, Material, das Magersucht befördert, und Fetischbildern rund um Zeichentrickfiguren. Einer sagte knapp: «Ich zuckte zurück.» Die Rekrutierung läuft über Prolific, das «menschliches Feedback aus repräsentativen Gruppen» für Feinabstimmung und Sicherheitsprüfungen bewirbt; auf Fragen von 404 Media antwortete das Unternehmen nicht.
Microsoft antwortete mit einem Satz: «Microsoft nutzt Kundendaten wie in unseren Nutzungsbedingungen beschrieben, unter anderem zur Verbesserung unserer Produkte und zur Durchsetzung unseres Verhaltenskodex.» Das ist kein Dementi, sondern ein Verweis auf die Unterlagen, und dort steht dasselbe.
All das steht längst in der Hilfe
Das Unangenehme daran ist, dass nichts verborgen wurde. In Microsofts Datenschutz-FAQ zu Copilot heisst es, «einige Copilot-Unterhaltungen unterliegen sowohl einer automatisierten als auch einer menschlichen Überprüfung zur Produktverbesserung und zur digitalen Sicherheit», und dass «eine begrenzte menschliche Überprüfung als Teil der Untersuchung erforderlich ist, wenn ein Verstoss gegen den Verhaltenskodex vermutet wird». Dieselbe Seite nennt 18 Monate Standardspeicherung für Unterhaltungen und schreibt, eine hochgeladene Datei bleibe «nicht länger als 18 Monate» gespeichert.
Die Geschichte ist also nicht, dass Microsoft ein Versprechen gebrochen hätte. Sie ist, dass das Versprechen, das Menschen im Kopf haben, und das, was sie tatsächlich bekommen haben, zwei verschiedene Dokumente sind. Niemand liest eine Datenschutz-FAQ, bevor er ein Urlaubsfoto in ein Chatfenster zieht, und zwischen «das verarbeitet eine KI» und «darauf schaut ein Fremder von einer Crowdworking-Plattform» liegt genau die Überraschung. Dieselbe Lücke haben wir für andere Assistenten in unserem Praxisleitfaden zum sicheren Umgang mit KI aufgeschrieben.
Warum der Trainingsschalter hier nicht hilft
Einen Schalter gibt es. Auf copilot.com liegt er im Profil unter Datenschutz und dann «Training mit Unterhaltungsaktivitäten»; in den Apps für Windows und macOS unter Einstellungen im selben Bereich. Ihn auszuschalten lohnt sich, wenn Sie Ihre Chats nicht ins Modelltraining geben wollen. Und es lohnt sich zu wissen, wie eng er wirkt.
Microsofts eigene Hilfeseite zieht die Grenze deutlich: Ein Widerspruch «schliesst Ihre künftigen Unterhaltungsaktivitäten vom Training dieser KI-Modelle aus», aber «schliesst Ihre Unterhaltungen nicht von anderen allgemeinen Produkt- oder Systemverbesserungen aus, ebenso wenig von der Nutzung für Werbung, digitale Sicherheit, Sicherheit und Compliance». Die Qualitätsbewertung von Bildbearbeitungen fällt genau unter «Produktverbesserung». Wer das Training abschaltet, hat den Menschen in der Warteschlange nicht abgeschaltet.
Eine engere Ausnahme ist erwähnenswert: Aufnahmen aus Copilot Vision werden laut derselben FAQ «nur zur Beantwortung Ihrer Anfrage verarbeitet und nicht zum Training von KI-Modellen oder zur Personalisierung verwendet». Das ist ein anderer Weg als eine hochgeladene Datei mit der Bitte um Bearbeitung, und in diesem zweiten arbeiteten die Prüfer.
Was daraus praktisch folgt
Die ehrliche Regel ist die alte, neu erzählt für eine neue Oberfläche: Behandeln Sie alles, was Sie in einen KI-Assistenten für Verbraucher laden, als etwas, das ein Fremder lesen kann. Nicht weil ein Datenleck droht, sondern weil die Prüfung durch Menschen dazugehört, wie das Produkt gebaut und kontrolliert wird. Unbrauchbar wird der Assistent dadurch nicht, aber manche Eingaben sind eine schlechte Idee.
- Gehen Sie davon aus, dass eine Person Anfrage und Bild zusammen sieht, Gesichter eingeschlossen
- Laden Sie keine fremden Fotos, Dokumente oder medizinischen Aufnahmen hoch und nichts, was Dritte erkennbar macht, die dem nie zugestimmt haben
- Den Trainingsschalter können Sie ausschalten, halten Sie ihn aber nicht für ein Datenschutzversprechen: Er entfernt das Modelltraining, nicht die Qualitätsprüfung
- Denken Sie an die Fristen: Unterhaltungen und hochgeladene Dateien bleiben bis zu 18 Monate
- Heikle Bilder lieber offline auf dem eigenen Gerät bearbeiten statt in einem Cloud-Assistenten
- Prüfen Sie bei der Arbeit, ob Sie im Unternehmens-Tenant sind oder mit privatem Konto angemeldet: Es gelten andere Regeln
Und noch etwas gehört klar gesagt, weil diese Seite von Netz-Privatsphäre handelt und sich hier leicht die falsche Antwort verkaufen liesse: Ein VPN ändert in dieser Geschichte nichts. Es verbirgt, aus welchem Netz die Verbindung kommt, während es hier um Daten geht, die Sie im eigenen Konto bewusst herausgeben. Die Grenze verläuft nicht dort, wohin der Datenverkehr geht, sondern bei dem, was Sie in die Box legen. Dieselbe Grenze zeigt sich in den Verfahren gegen Seiten mit sexualisierten Bildern, etwa als die Staatsanwaltschaft Manhattan zwölf Deepfake-Porno-Dienste beschlagnahmte: Der Schaden folgte den Bildern, nicht der Verbindung.
