Claude system prompt bug wastes user money and bricks managed agents

Bug crítico no prompt do sistema Claude desperdiça créditos e quebra agentes gerenciados

Um bug grave descoberto no sistema de prompts do Claude, modelo de inteligência artificial da Anthropic, está gerando prejuízos financeiros para usuários corporativos e “quebrando” agentes de IA gerenciados. O problema, relatado no Hacker News pelo desenvolvedor thomashobohm, expõe falhas no mecanismo de definição de comportamento do modelo, que consome créditos desnecessariamente e desestabiliza automações inteiras.

Como o bug se manifesta

De acordo com o relato técnico, o sistema de prompts do Claude apresenta um erro de processamento quando usuários definem instruções personalizadas (system prompts) para seus agentes. O problema está na forma como o modelo interpreta e executa comandos de custo associados a tokens – unidades de texto que o modelo processa.

• Consumo excessivo de créditos: O bug faz com que cada requisição ao modelo consuma até 3x mais tokens do que o esperado, drenando saldos de contas empresariais em minutos
• Comportamento imprevisível: Agentes gerenciados que dependem de prompts consistentes passam a executar tarefas fora do escopo ou simplesmente param de responder
• Quebra de workflows: Automações que usam o Claude em série – como análise de documentos seguida de geração de relatórios – falham na primeira etapa

Raiz técnica do problema

Thomas Hobohm detalhou que o bug reside no mecanismo de “token budgeting” do Claude, especificamente na função que calcula quantos tokens serão gastos para processar o prompt do sistema. Em vez de reutilizar o prompt pré-processado em chamadas subsequentes, o modelo o recompila do zero, consumindo tokens extras e, pior, ignorando restrições de comportamento definidas pelo usuário.

“Seu agente pode gastar US$ 50 em créditos em menos de uma hora sem gerar uma única saída útil”, escreveu Hobohm no post. “E o pior: você só descobre quando recebe a fatura ou percebe que seu assistente virtual começou a agir por conta própria.”

Impacto financeiro imediato

Empresas brasileiras que utilizam o Claude para automação de atendimento, análise de contratos ou geração de conteúdo reportam prejuízos significativos. Em grupos de discussão de IA corporativa, relatos indicam:

• Contas empresariais com saldo de US$ 200 zeradas em um único dia de operação normal
• Chatbots de suporte que começaram a fornecer informações incorretas após atualização dos prompts do sistema
• Sistemas de triagem de e-mails que pararam de classificar mensagens corretamente

Soluções temporárias e recomendações

Enquanto a Anthropic não confirma oficialmente o bug nem libera correção, desenvolvedores sugerem medidas paliativas:

• Definir limites de gastos diários nas configurações da API
• Reduzir a complexidade dos system prompts – usar prompts mais curtos e diretos diminui o consumo exagerado
• Implementar monitoramento em tempo real do uso de tokens via scripts próprios
• Testar alterações em ambiente de desenvolvimento antes de aplicar em produção

O que diz a Anthropic

Até o fechamento desta reportagem, a Anthropic não havia se pronunciado publicamente sobre o bug. A empresa respondeu a alguns usuários no Hacker News, mas apenas com mensagens genéricas de “estamos investigando”. O silêncio preocupa empresas que investem pesado em agentes baseados no Claude para operações críticas.

Especialistas apontam que esse tipo de falha expõe um dos maiores riscos da terceirização de inteligência artificial: a falta de transparência sobre o funcionamento interno dos modelos. “Você paga por tokens sem saber exatamente como eles são contados. O prompt do sistema deveria ser um custo fixo, não variável”, argumenta um engenheiro de machine learning que preferiu não se identificar.

Lições para empresários brasileiros

O caso serve de alerta para empresas que estão migrando operações para IAs generativas. Antes de contratar soluções baseadas em Claude, GPT ou outros modelos, é crucial:

• Exigir contratos com cláusulas de responsabilidade por bugs no consumo de tokens
• Exigir dashboards de uso detalhados em tempo real
• Manter planos de contingência – sistemas tradicionais devem permanecer operacionais enquanto a IA não estiver madura
• Testar exaustivamente em cenários de estresse antes de colocar em produção

Enquanto a Anthropic não resolver o bug, a recomendação dos especialistas é clara: reduza a dependência do Claude para tarefas críticas e monitore cada centavo gasto em tokens. A inteligência artificial pode ser poderosa, mas bugs como esse mostram que ainda estamos em terra de ninguém quando o assunto é confiabilidade financeira.