Eigene Geräte mit Codex oder Claude zu zerlegen, endet jetzt oft mit Absagen und Sperren

Wer mit KI-Programmieragenten die eigenen Geräte auseinandergenommen hat, berichtet, dass die Werkzeuge inzwischen bremsen. Wie 404 Media am 10. November berichtete, stoßen Nutzer von Claude Code auf „Sicherheitsprüfungen“, wenn sie Programme dekompilieren lassen wollen, und einige Codex-Nutzer erhielten Warnungen oder verloren ihr OpenAI-Konto wegen „Cyber-Missbrauchs“. Einer von ihnen hatte Samsung-Fernseher untersucht. Ein OpenAI-Ingenieur nennt die Sperren überwiegend einen Fehler und sagt, Reverse Engineering mit Codex sei erlaubt. Im Bericht von 404 Media gibt es keinen Kommentar von Anthropic.

Worauf Nutzer gestoßen sind

In den vergangenen Wochen machte es das Werkzeug Reverse Engineer Anything (REA) einfach, einen KI-Agenten auf ein Gerät anzusetzen und die Firmware auslesen und analysieren zu lassen. Damit wurden neue Betriebssysteme auf Smart-TVs installiert, vom Hersteller aufgegebene Geräte wiederbelebt und Tracking sowie Werbung entfernt. Dann kamen die Absagen. Ein beliebter Beitrag im Subreddit r/ClaudeCode trägt den Titel „Der Traum ist tot“, und im Discord von REA heißt es: „Claude weigert sich, irgendetwas zu dekompilieren“.

Bei OpenAI gingen die Folgen weiter. Der X-Nutzer log4j, der Samsung-Fernseher mit Codex untersuchte, schrieb am 23. Oktober, das Konto sei gesperrt worden, was ihn rund 500 Dollar gekostet habe, und es sei nur für lokales Reverse Engineering genutzt worden, nie zum Finden oder Ausnutzen von Schwachstellen. Ein chinesischsprachiger Nutzer berichtete am 12. Oktober, sein fast vier Jahre altes Konto sei gesperrt worden, nachdem er REA mit Codex ausprobiert hatte. Ein weiterer Entwickler schrieb am 2. November, Codex habe ihm nach einer Sicherheitsprüfung seines eigenen Codes eine Warnung wegen „Cyber-Missbrauchs“ geschickt. Unabhängig davon melden ChatGPT-Nutzer seit Anfang November, dass Konten ohne Vorwarnung deaktiviert werden.

Was OpenAI sagt

OpenAI-Ingenieur Tarun Gogineni antwortete am 26. Oktober öffentlich auf die Beschwerden. „Diese Sperren sind überwiegend versehentlich und eine Folge schwieriger Entscheidungsgrenzen. Es gibt kein Verbot von Reverse Engineering mit Codex. Es wird behoben“, schrieb er. Wie viele Konten betroffen sind und ob Gesperrte ihr Konto zurückbekommen, hat OpenAI nicht gesagt.

Matt Brown, Sicherheitsforscher und Penetrationstester bei Brown Fine Security, der Geräte mit KI analysiert, sagte 404 Media, dass jede Sperre beim Reverse Engineering, die er erlebt habe, mit der Kategorie „Cyber“ übereinstimmte. Er vermutet, dass die KI-Labore unter Druck stehen, kriminellen Hackern nicht zu helfen, und ihre Filter lieber zu streng eingestellt sind.

Wohin die Arbeit wandert

Brown kauft nach eigenen Worten Hardware, um Modelle selbst zu betreiben, weil sich die Regeln der großen Labore „zufällig und ohne Vorwarnung beim selben Modell ändern“. Kürzlich fand er mit dem offenen Modell GLM 5.3 versteckte Bluetooth-Befehle in einem Gaswächter an seiner Propanflasche. Ein lokales Modell braucht einen leistungsstarken Rechner und Know-how. Für normale Besitzer, die wissen wollen, was ihr Fernseher oder ihre Kamera an den Hersteller meldet, wird diese Art der Prüfung damit schwieriger.

Eine Schließung im selben Zusammenhang hat einen anderen Grund. 404 Media erwähnte auch das Aus von Decomp.wtf, einem Werkzeug zum KI-gestützten Dekompilieren von Spielen. Der Autor erklärt, er habe wegen Einwänden aus der Decompilation-Community aufgehört, nicht auf Druck eines KI-Unternehmens. Der Code bleibt unter MIT-Lizenz auf GitHub.