Apple will KI-Modelle mit Siri-Gesprächen trainieren: iOS 27 fragt beim ersten Start nach Zustimmung
Jahrelang bestand Apples Antwort auf die Frage "womit trainiert ihr eure KI" aus einem Satz: Ihre privaten persönlichen Daten und Interaktionen werden niemals zum Training unserer Foundation-Modelle verwendet. Am 9. September verlor der Satz seinen Punkt. Apples Seite zu verantwortungsvoller KI lautet jetzt "niemals zum Training unserer Foundation-Modelle verwendet, außer Sie entscheiden sich explizit dafür, bei deren Verbesserung zu helfen", und iOS 27, das am Montag, dem 14. September, erscheint, fragt nach dieser Entscheidung in dem Moment, in dem Sie Siri AI einschalten. Sagen Sie Ja, darf Apple Ihre Audioaufnahmen, die Transkripte dessen, was Sie gesagt oder getippt haben, und Siris Antworten behalten und Mitarbeiter einen Teil davon anhören lassen.
Kurz gefasst
- Apple hat sein Prinzip zu verantwortungsvoller KI still umgeschrieben: Nutzerdaten sind fürs Training tabu, "außer Sie entscheiden sich explizit dafür, bei deren Verbesserung zu helfen".
- Der Release Candidate von iOS 27 zeigt beim Aktivieren von Siri AI einen Dialog: zustimmen oder auf ein blass gefärbtes "Jetzt nicht" tippen. Ohne Auswahl lässt sich das Fenster nicht schließen.
- Was die Zustimmung laut dem Datenschutztext im Build umfasst: alle Interaktionen mit Siri und Diktat, einschließlich Audio, Transkripte gesprochener und getippter Anfragen sowie Siris Antworten; nicht mit dem Apple-Account verknüpft, teilweise von Apple-Mitarbeitern geprüft.
- Zeitpunkt: in derselben Woche, in der Apple Uhren vorstellte, die die letzten 15 Sekunden Ton behalten und den Tag als Siri Recap zusammenfassen, beides über die Cloud, die Apple als privat versprochen hat.
Was sich geändert hat, Wort für Wort
Die Änderung meldete heise online am 12. September, nachdem Entwickler mit dem Release Candidate von iOS 27 den neuen Zustimmungsbildschirm beschrieben hatten. Apples Forschungsseite zur dritten Generation seiner Foundation-Modelle, aktualisiert am 9. September, trägt das geänderte Prinzip. Dieselbe Seite behauptet im Abschnitt zu Trainingsdaten weiterhin, "wir verwenden keine privaten persönlichen Daten oder Nutzerinteraktionen beim Training unserer Foundation-Modelle", und nennt als Quellen öffentliche Webdaten, lizenzierte Daten, offene Datensätze, eigene Studien und synthetische Daten. Beide Sätze stehen auf einer Seite. Der erste beschreibt die Regel, der zweite die Vergangenheit.
Der maßgebliche Text ist der Datenschutzhinweis im Build von iOS 27. Demnach darf Apple "deine gesamten Interaktionen mit Siri und der Diktierfunktion speichern, einschließlich der Audiodaten und Transkripte deiner getippten und gesprochenen Siri-Anfragen sowie der Antworten von Siri". Die Daten seien nicht mit dem Apple-Account verknüpft, Apple "unternimmt Schritte, um sicherzustellen, dass persönliche Daten nicht von Apple gespeichert oder verwendet werden", und ein Teil könne "von Prüfpersonal überprüft werden", wobei Audio nur von Apple-Mitarbeitern abgehört werde. Wer dieses Personal ist, wie lange Aufnahmen gespeichert bleiben und was "Schritte" bedeutet, bleibt offen.
Wie der Dialog gebaut ist
- Sie aktualisieren auf iOS 27 und schalten Siri AI ein, den neuen Assistenten, den Apple im Juni ankündigte und jetzt ausliefert.
- Ein Bildschirm bittet Sie, Siri zu verbessern. Die Zustimmungstaste ist auffällig, "Jetzt nicht" steht in gedämpfter Farbe darunter.
- Ohne eine Wahl lässt sich der Bildschirm nicht schließen. "Jetzt nicht" ist eine Ablehnung, aber die Formulierung lädt zu einer erneuten Frage ein.
- Haben Sie zugestimmt oder sind unsicher, was Sie getippt haben, gehen Sie in Einstellungen, Datenschutz & Sicherheit, Analyse & Verbesserungen und schalten den Siri-Verbesserungsschalter aus. Er stoppt künftige Erfassung, holt aber bereits Gesendetes nicht zurück.
Warum das Cloud-Versprechen dazugehört
Siri AI und die meisten Apple-Intelligence-Funktionen laufen auf Private Cloud Compute, dem Serversystem, das Apple als ebenso privat wie die Verarbeitung auf dem Gerät beschreibt: Anfragen werden nicht gespeichert, sind für niemanden zugänglich, auch nicht für Apple, und von externen Forschern überprüfbar. Mit iOS 27 läuft Apples größtes Servermodell zusätzlich auf NVIDIA-Hardware in der Google Cloud unter denselben Garantien. Ein Trainingsprogramm, das Audio und Transkripte behält, steht neben dieser Architektur, nicht in ihr, und der Unterschied wird für die meisten unsichtbar sein: derselbe Assistent, dieselbe Stimme, ein Weg, der vergisst, und einer, der sich erinnert, getrennt durch ein Tippen bei der Einrichtung.
Apple war schon einmal hier. 2019 beschrieben Subunternehmer, wie sie Siri-Aufnahmen mit Arztgesprächen, Geschäften und Sex unter laxen Regeln anhörten; Apple stoppte das Programm, entschuldigte sich und brachte die menschliche Prüfung als Opt-in zurück. Der neue Dialog ist das zweite Mal, dass der Konzern fragt. Er kommt in einer Woche, in der Apples Datenschutzversprechen von mehreren Seiten geprüft werden, von einer britischen Anordnung zur iCloud-Verschlüsselung, gegen die nun der Kongress kämpft, bis zu einer Uhr, die ständig mithört. Der Unterschied ist diesmal, dass die Aufnahmen für ein Produkt gewollt sind, nicht für Qualitätskontrollen.
Was am Montag zu tun ist
Wer seine Stimme nicht in einem Trainingsdatensatz haben will, tippt auf "Jetzt nicht", wenn Siri AI fragt, und wirft danach einmal einen Blick in Analyse & Verbesserungen, denn derselbe Schalter regelt auch die ältere Prüfung von Siri und Diktat. Wer Geräte für eine Familie oder ein Unternehmen verwaltet: Die Einstellung gilt pro Gerät und pro Nutzer; ein geteiltes iPad fragt, wer es einrichtet. Und wer bereits zugestimmt hat und es sich anders überlegt: Der Schalter stoppt neue Daten, aber Apples Text nennt keinen Weg, bereits Gesammeltes zu löschen. Also davon ausgehen, dass alles, was Siri zwischen Update und Sinneswandel gesagt wurde, behalten werden könnte.
