Désosser ses appareils avec Codex ou Claude mène désormais à des refus et des bannissements

Ceux qui démontaient leurs propres appareils avec des agents de programmation IA disent que les outils ont commencé à résister. Selon 404 Media, le 10 novembre, les utilisateurs de Claude Code se heurtent à des « contrôles de sécurité » quand ils demandent de décompiler un programme, et certains utilisateurs de Codex ont reçu des avertissements ou perdu leur compte OpenAI pour « abus cyber ». L'un d'eux analysait des téléviseurs Samsung. Un ingénieur d'OpenAI affirme que ces blocages sont surtout des erreurs et que la rétro-ingénierie avec Codex est autorisée. L'article de 404 Media ne contient aucun commentaire d'Anthropic.

Ce que les utilisateurs ont rencontré

Ces dernières semaines, l'outil Reverse Engineer Anything (REA) permettait de pointer simplement un agent IA vers un appareil pour qu'il en extraie et analyse le firmware. On s'en servait pour installer de nouveaux systèmes sur des téléviseurs connectés, ranimer des objets abandonnés par leur fabricant et supprimer pistage et publicités. Puis les refus sont arrivés. Un message populaire du subreddit r/ClaudeCode s'intitule « Le rêve est mort », et sur le Discord de REA on lit : « Claude refuse de décompiler quoi que ce soit ».

Chez OpenAI, les conséquences sont allées plus loin. L'utilisateur de X log4j, qui analysait des téléviseurs Samsung avec Codex, a écrit le 23 octobre que son compte avait été suspendu, pour une perte d'environ 500 dollars, et qu'il ne servait qu'à de la rétro-ingénierie locale, jamais à chercher ou exploiter des failles. Un utilisateur sinophone a raconté le 12 octobre avoir perdu un compte vieux de près de quatre ans après avoir essayé REA avec Codex. Un autre développeur a indiqué le 2 novembre que Codex lui avait envoyé un avertissement pour « abus cyber » après un audit de sécurité de son propre code. Par ailleurs, depuis début novembre, des utilisateurs de ChatGPT signalent des comptes désactivés sans avertissement.

Ce que dit OpenAI

L'ingénieur d'OpenAI Tarun Gogineni a répondu publiquement aux plaintes le 26 octobre. « Ces blocages sont surtout accidentels et résultent de frontières de décision difficiles. Il n'y a pas d'interdiction de la rétro-ingénierie avec Codex. C'est en cours de correction », a-t-il écrit. OpenAI n'a pas dit combien de comptes étaient touchés ni si les utilisateurs suspendus les récupéreraient.

Matt Brown, chercheur en sécurité et pentesteur chez Brown Fine Security, qui analyse des appareils avec l'IA, a expliqué à 404 Media que tous les blocages de rétro-ingénierie qu'il a vus correspondaient à la catégorie « cyber ». Selon lui, les laboratoires d'IA subissent une pression pour que leurs modèles n'aident pas des pirates criminels, et leurs filtres pèchent par excès de prudence.

Où ce travail se déplace

Brown dit acheter du matériel pour faire tourner des modèles lui-même, parce que les règles des grands laboratoires « changent au hasard et sans prévenir sur le même modèle ». Il a récemment utilisé le modèle ouvert GLM 5.3 pour trouver des commandes Bluetooth cachées dans un détecteur de gaz fixé à sa bouteille de propane. Un modèle local exige un ordinateur puissant et des compétences, ce qui rend ce genre de vérification plus difficile pour les propriétaires ordinaires qui veulent savoir ce que leur téléviseur ou leur caméra envoie au fabricant.

Une fermeture liée a une autre cause. 404 Media a aussi signalé l'arrêt de Decomp.wtf, un outil de décompilation de jeux assistée par IA. Son auteur explique avoir arrêté à la suite des objections de la communauté de la décompilation, et non sous la pression d'une entreprise d'IA. Le code reste sur GitHub sous licence MIT.