Kalifornien verbietet sozialen Netzwerken den endlosen Feed für unter 16-Jährige
Am 10. September unterzeichnete Kaliforniens Gouverneur dreizehn Gesetze zu Kindern und Technik auf einmal. Eines davon, AB 1709, tut etwas, das bisher kein US-Bundesstaat getan hat: Es verbietet sozialen Plattformen, Nutzern unter 16 überhaupt einen algorithmischen Feed oder Autoplay anzubieten, und eine elterliche Zustimmung schaltet das nicht wieder frei. Die unbequeme Frage, die das Gesetz offenlässt: Woher soll eine Plattform wissen, wer fünfzehn ist.
Kurz gefasst
- AB 1709 verbietet "süchtig machende Funktionen" für unter 16-Jährige ohne Ausnahme. Durchgesetzt wird es vom Generalstaatsanwalt oder einem lokalen Staatsanwalt, mit Geldbußen für die Plattform.
- Ein zweites Gesetz, benannt nach einem verstorbenen Jugendlichen, regelt Begleit-Chatbots: Krisenprotokolle, elterliche Kontrollen und unabhängige Kindersicherheitsaudits.
- Das Alterssignal baut Kalifornien nicht in jede Website, sondern in die Ebene von Betriebssystem und App-Store, über ein eigenes Gesetz ab Januar 2027.
- Die EFF bat um ein Veto: Das Gesetz verbiete gewöhnliche Funktionen und dränge Plattformen dazu, bei allen Ausweise zu prüfen oder das Alter biometrisch zu schätzen.
Was eine süchtig machende Funktion juristisch ist
Der Gesetzestext selbst hält fest, dass Plattformen um algorithmische Empfehlung, endloses Scrollen, Autoplay und Benachrichtigungen herum gebaut sind, und erklärt genau das zum Ziel. Praktisch untersagt AB 1709 einer erfassten Plattform, einer Person unter 16 eine solche Funktion bereitzustellen, und verlangt angemessene Maßnahmen, damit Minderjährigen keine angeboten wird.
Eine mildere Regel gab es in Kalifornien bereits. Das Gesetz zum Schutz von Kindern vor Social-Media-Sucht verbietet einen süchtig machenden Feed für bekannte Minderjährige, sofern keine überprüfbare elterliche Zustimmung vorliegt. AB 1709 nimmt dieser Altersgruppe das Schlupfloch: Zustimmung schaltet nichts mehr frei.
- AB 1709 (Lowenthal): das Verbot süchtig machender Funktionen unter 16, dazu eine beratende e-Safety-Kommission im Justizministerium des Bundesstaats.
- SB 1119 (Padilla, Wicks, Bauer-Kahan): Begleit-Chatbots für Kinder. Krisenprotokolle, wenn ein Kind Suizidgedanken äußert, elterliche Kontrollen, Benachrichtigung bei abgeschalteten Sicherheitseinstellungen sowie die erste US-Pflicht zu unabhängigen Kindersicherheitsaudits und jährlichen Risikobewertungen.
- AB 2 (Lowenthal): macht eine Plattform schadensersatzpflichtig, wenn mangelnde übliche Sorgfalt ein Kind schädigt. Läuft am 1. Januar 2035 aus.
- AB 2246 (Wicks): hebt Kaliforniens Age-Appropriate Design Code auf und ersetzt ihn durch eine neu geschriebene Fassung, nachdem die ursprüngliche vor Gericht hängen blieb.
- AB 1856 (Wicks): Alterssignale in Anwendungen, also die Installation, auf der alles Vorige beruht.
Das Detail, an dem alles hängt
Eine Regel für unter 16-Jährige braucht einen Weg zu erkennen, wer das ist, und hier geht Kalifornien einen anderen Weg als die meisten Altersprüfungsgesetze. Statt jede Website ihre Besucher ausfragen zu lassen, verlangt ein bereits beschlossenes eigenes Gesetz zur digitalen Altersbestätigung ab dem 1. Januar 2027, dass eine Anwendung beim Herunterladen und Starten eine Altersspanne vom Betriebssystem oder App-Store abfragt.
Funktioniert das wie gedacht, teilt das Telefon der App ungefähr das Alter des Besitzers mit, und kein einzelner Dienst muss Dokumente sammeln. Es ist derselbe architektonische Zug, den Großbritannien mit Prüfungen auf Geräteebene macht, und darüber haben wir geschrieben, als London ankündigte, den Nacktbild-Filter ins Gerät selbst zu schreiben. Zwei Regierungen, zwei Themen, ein gemeinsamer Schluss: Der Durchsetzungspunkt wandert im Stapel nach unten, weg von der Website und hinein in das Gerät, das Ihnen ohnehin gehört.
Der Einwand
Die Electronic Frontier Foundation bat den Gouverneur um ein Veto gegen AB 1709 und formulierte das ohne Umschweife. Ihr Argument lautet nicht, dass bindungsorientiertes Design harmlos sei. Es lautet, dass die Definition im Gesetz die gewöhnliche Maschinerie eines sozialen Netzwerks erfasst, einschließlich Feeds aus dem, wem man folgt und was man mochte, sodass das praktische Ergebnis für eine Fünfzehnjährige Ausschluss statt mehr Sicherheit ist.
Anforderungen an Altersschranken werden alle zwingen, den großen Technologiekonzernen noch mehr persönliche Daten zu geben.
Electronic Frontier Foundation, in ihrem Schreiben mit der Bitte um ein Veto
Die zweite Hälfte des Einwands betrifft auch Leser, die lange keine Jugendlichen mehr sind. Um unter 16-Jährige fernzuhalten, müssen Plattformen feststellen, wer über 16 ist, und die Werkzeuge dafür sind staatliche Ausweise oder biometrische Altersschätzung. Beides schafft einen Bestand sensibler Daten, den es vorher nicht gab, und für biometrische Schätzung sind Fehlerquoten dokumentiert, die sich nach Hautfarbe und Geschlecht unterscheiden. Die Organisation warnt zudem vor rechtlicher Verwirrung, da AB 1709 sich mit zwei bereits beschlossenen Gesetzen überschneidet.
Darunter liegt ein echter Dissens, und den zu benennen ist ehrlicher, als Partei zu ergreifen. Die Position des Bundesstaats: Ein auf zwanghafte Nutzung ausgelegtes Design ist keine Rede und lässt sich regulieren wie jede andere Produktfunktion. Die Position der Kritiker: Ein Feed ist der Weg, auf dem Rede gefunden wird, und ihn einem Minderjährigen zu nehmen heißt, die Bibliothek wegzunehmen, nicht die Zigarette.
Wie es weitergeht
- Kalifornien untersagt süchtig machende Feeds für bekannte Minderjährige ohne überprüfbare elterliche Zustimmung.
- Dreizehn Gesetze unterzeichnet, darunter das pauschale Verbot unter 16 und das Chatbot-Gesetz.
- Die Pflicht zum Alterssignal auf Geräteebene tritt in Kraft und gibt dem Verbot einen Mechanismus.
- Gerichtsverfahren. Kaliforniens früherer Design Code wurde gerichtlich gestoppt, weshalb eines dieser Gesetze ihn neu schreibt.
Das Prozessrisiko ist nicht theoretisch. Der ursprüngliche Age-Appropriate Design Code wurde angegriffen und untersagt, und AB 2246 existiert genau deshalb, um ihn durch etwas zu ersetzen, das einer Prüfung standhalten könnte. Dasselbe Argument dürfte auch gegen AB 1709 vorgebracht werden.
Wo das hineingehört
Kalifornien steht damit nicht allein, und die Richtung über Länder hinweg ist inzwischen so klar, dass sich eine Liste lohnt. Wir führen eine: welche Länder soziale Medien für Minderjährige einschränken und ab welchem Alter. Neu an diesem Paket ist nicht die Idee einer Altersgrenze, die ist inzwischen üblich, sondern die Entscheidung, den Feed selbst zu verbieten statt das Konto, und das Alterssignal ins Betriebssystem zu legen.
Ein VPN ist die Reflexantwort, sobald irgendwo etwas abgesperrt wird, und es lohnt sich zu sagen, warum sie hier schwach ist. Das sichtbare Land zu wechseln ändert nichts an einer Altersspanne, die Ihr Telefon aus dem angemeldeten App-Store-Konto meldet. Das ist keine geografische Sperre und wird nicht auf Netzwerkebene durchgesetzt.
