Staatsanwaltschaft Manhattan beschlagnahmt 12 Deepfake-Pornoseiten, die Sexvideos von 1.200 realen Personen verkauften, meist Frauen des öffentlichen Lebens

Die Staatsanwaltschaft von Manhattan hat die Domains von 12 Websites beschlagnahmt, die KI-generierte Sexvideos mit den Gesichtern von rund 1.200 realen Personen veröffentlichten und verkauften, überwiegend Frauen und überwiegend Personen des öffentlichen Lebens: Schauspielerinnen, Politikerinnen, Sportlerinnen, Musikerinnen, Aktivistinnen und Influencerinnen. Bezirksstaatsanwalt Alvin Bragg gab die Beschlagnahmen am Montag, 14. September, bekannt und nannte sie die bislang größte Aktion dieser Art. Die Seiten zeigen jetzt einen Hinweis, dass die Domain aufgrund eines Durchsuchungsbeschlusses des New York State Supreme Court übernommen wurde. Angeklagt ist noch niemand: Die Ermittlungen gegen die Betreiber und gegen diejenigen, die die Videos hochgeladen haben, laufen laut Behörde weiter.

Was beschlagnahmt wurde und auf welcher Grundlage

Die Behörde beschreibt die Seiten als Geschäftsbetriebe. Laut ihrer Erklärung haben die Beschuldigten mit KI-Bild- und Videowerkzeugen vorhandene Fotos und Videos von etwa 1.200 Personen in "hyperrealistische" Sexdarstellungen verwandelt und diese über die 12 Websites "verbreitet, veröffentlicht und verkauft". Wired, das Ende vergangener Woche beobachtete, wie mehrere Startseiten auf Beschlagnahmehinweise umgestellt wurden, schreibt, viele Namen seien um Phrasen wie "sex celebrity" oder das Versprechen "echter Deepfakes" gebaut gewesen, die Videos hätten mehrere Minuten gedauert und seien meist vorhandene Pornoszenen mit eingetauschtem Prominentengesicht gewesen, und mindestens zwei Seiten hätten gewählten Politikern eigene Profilseiten mit einem Raster von Videos eingerichtet. Benjamin Shultz vom American Sunlight Project, der beim Dokumentieren von Deepfake-Missbrauch gegen Politiker auf die Seiten gestoßen war, zählte 56 europäische, 16 amerikanische und zwei britische Politiker unter den Dargestellten und sagt, vieles habe wie Reposts von MrDeepFakes ausgesehen, dem Forum, das im Mai 2025 schloss, nachdem Reporter seine Macher enttarnt hatten.

Auf die Frage, nach welchem Gesetz er vorgehe, verwies Bragg auf der Pressekonferenz auf das Recht des eigenen Bundesstaats: New York hatte 2023 digital erzeugte oder veränderte Bilder in den Straftatbestand der unerlaubten Verbreitung intimer Aufnahmen aufgenommen. Die Beschlüsse stammen von einem New York State Supreme Court, dem erstinstanzlichen Gericht des Bundesstaats, nicht von der Bundesjustiz. Das ist deshalb wichtig, weil die Seiten nicht in Manhattan saßen, und Bragg erklärte die Logik ausdrücklich: "Wenn Sie uns mitteilen, dass ein Bild ohne Ihre Erlaubnis, ohne Ihre Zustimmung veröffentlicht wurde, können wir handeln, solange diese Website von Manhattan aus erreichbar ist."

Warum die Domain wegzunehmen wirkt, wo Sperren versagen

Eine Domain-Beschlagnahme ist etwas anderes als die Sperrverfügungen, die Rechteinhaber und Regulierer üblicherweise verlangen. Eine Sperre passiert beim Internetanbieter: Ein Gericht weist die Provider eines Landes an, einen Namen nicht mehr aufzulösen, und jeder mit VPN oder anderem DNS-Server geht daran vorbei. Eine Beschlagnahme passiert in der Registry: Der Name geht an den Staat über, seine Einträge zeigen auf den Server der Staatsanwaltschaft, und die Seite ist in allen Ländern gleichzeitig weg. Leonie Oehmig vom Institute for Strategic Dialogue, die das Deepfake-Ökosystem untersucht hat, sagte Wired, die beschlagnahmten Seiten seien "offenbar auch nicht erreichbar, wenn man per VPN von anderen Orten aus zugreift". Derselbe Mechanismus holte im Juni CFAKE.com und SOCFAKE.com vom Netz, als das US-Justizministerium und das Heimatschutzministerium erstmals den bundesweiten Take It Down Act anwandten und die französische Polizei in Nizza einen Verdächtigen festnahm; und es ist das Werkzeug, mit dem die Manhattaner Behörde schon Kartenhändlerläden und einen falschen Krypto-Rückholdienst schloss.

Das Recht, das aufholt

Die Aktion in Manhattan fällt in ein Jahr, in dem sich der rechtliche Boden unter Deepfake-Seiten verschoben hat. Der bundesweite Take It Down Act, im Mai 2025 unterzeichnet, machte die Veröffentlichung sexueller digitaler Fälschungen einer identifizierbaren erwachsenen Person ohne deren Zustimmung strafbar und verpflichtet Plattformen seit Mai 2026, gemeldetes Material binnen 48 Stunden zu entfernen. Bundesstaatsanwälte in Brooklyn klagten im Mai zwei Männer wegen der Veröffentlichung Tausender Promi-Deepfakes an, und Anfang dieses Monats erhielt der erste nach dem Gesetz Verurteilte 15 Jahre, nachdem Ermittler auf seinen Geräten mehr als 3.000 echte und KI-generierte Missbrauchsbilder gefunden hatten. Bis August hatten 48 Bundesstaaten Gesetze zu sexuellen Deepfakes. Braggs Punkt am Rednerpult war, dass die Prominenten nur das sichtbare Ende sind: "Wir wissen, dass jeder Opfer dieser Straftaten werden kann, besonders in Fällen häuslicher Gewalt", wo dieselben Werkzeuge für Drohungen genutzt werden. Regierungen anderswo greifen zu gröberen Mitteln, von Großbritanniens Plan, die Telefone selbst Nacktbilder verweigern zu lassen, bis zu den Altersschranken, die sich in Europa ausbreiten; New York ging stattdessen gegen die Geschäfte vor.