Desmontar os próprios aparelhos com Codex ou Claude já dá em recusas e banimentos

Quem desmontava os próprios aparelhos com agentes de programação de IA diz que as ferramentas começaram a travar. Segundo a 404 Media, a 10 de novembro, os utilizadores do Claude Code esbarram em «verificações de segurança» quando pedem para descompilar um programa, e alguns utilizadores do Codex receberam avisos ou perderam a conta OpenAI por «abuso cibernético». Um deles analisava televisores Samsung. Um engenheiro da OpenAI diz que os bloqueios são sobretudo um erro e que a engenharia inversa com o Codex é permitida. O artigo da 404 Media não traz qualquer comentário da Anthropic.

Com o que os utilizadores se depararam

Nas últimas semanas, a ferramenta Reverse Engineer Anything (REA) permitia apontar um agente de IA a um aparelho e pô-lo a extrair e analisar o firmware. Foi usada para instalar novos sistemas operativos em smart TVs, reanimar aparelhos abandonados pelo fabricante e remover rastreio e publicidade. Depois vieram as recusas. Uma publicação popular no subreddit r/ClaudeCode tem o título «O sonho morreu», e no Discord do REA lê-se: «O Claude recusa-se a descompilar seja o que for».

Na OpenAI as consequências foram mais longe. O utilizador do X log4j, que analisava televisores Samsung com o Codex, escreveu a 23 de outubro que a conta foi banida, com uma perda de cerca de 500 dólares, e que só a usava para engenharia inversa local, nunca para encontrar ou explorar vulnerabilidades. Um utilizador que escreve em chinês contou a 12 de outubro que perdeu uma conta com quase quatro anos depois de experimentar o REA com o Codex. Outro programador escreveu a 2 de novembro que o Codex lhe enviou um aviso de «abuso cibernético» depois de uma revisão de segurança do seu próprio código. À parte, desde o início de novembro, utilizadores do ChatGPT queixam-se de contas desativadas sem aviso.

O que diz a OpenAI

O engenheiro da OpenAI Tarun Gogineni respondeu publicamente às queixas a 26 de outubro. «Estes bloqueios são sobretudo acidentais e resultam de fronteiras de decisão difíceis. Não há qualquer proibição de engenharia inversa com o Codex. Está a ser corrigido», escreveu. A OpenAI não disse quantas contas foram afetadas nem se os utilizadores banidos as vão recuperar.

Matt Brown, investigador de segurança e pentester da Brown Fine Security que analisa aparelhos com IA, disse à 404 Media que todos os bloqueios de engenharia inversa que viu coincidiam com a categoria «cyber». Na leitura dele, os laboratórios de IA estão sob pressão para que os seus modelos não ajudem criminosos informáticos, e os filtros pecam por excesso de rigor.

Para onde vai este trabalho

Brown diz que está a comprar hardware para correr modelos por conta própria, porque as regras dos grandes laboratórios «mudam ao acaso e sem aviso no mesmo modelo». Recentemente usou o modelo aberto GLM 5.3 para encontrar comandos Bluetooth escondidos num detetor de gás ligado à sua botija de propano. Um modelo local exige um computador potente e conhecimentos, por isso este tipo de verificação fica mais difícil para os donos comuns que querem saber o que o seu televisor ou a sua câmara envia ao fabricante.

Um encerramento relacionado tem outra causa. A 404 Media referiu também o fim do Decomp.wtf, uma ferramenta de descompilação de jogos assistida por IA. O autor explica que parou por causa das objeções da comunidade de descompilação, e não por pressão de uma empresa de IA. O código continua no GitHub sob licença MIT.