Quem responde quando um agente de IA toma uma decisão errada sozinho?

Quem responde quando um agente de IA toma uma decisão errada sozinho?

Você já imaginou um funcionário que trabalha 24 horas por dia, não pede aumento, não tira férias — e, de repente, decide alterar o preço de um produto, negar o crédito de um cliente ou disparar uma campanha de marketing equivocada sem consultar ninguém? Esse "funcionário" já existe. São os chamados agentes de IA autônomos, sistemas capazes de planejar, executar e concluir tarefas sem supervisão humana constante. E a pergunta que tira o sono de CEOs, advogados e gestores de tecnologia é simples: quando a conta chega, quem paga?

A nova fronteira da automação

Nos últimos dois anos, saímos de chatbots que apenas respondem perguntas para sofisticados agentes que tomam decisões em cadeia. Um agente de IA pode, por exemplo, analisar um estoque, negociar com fornecedores, emitir pedidos e pagar faturas — tudo sozinho. Bancos usam agentes para avaliar crédito em tempo real. Varejistas os utilizam para ajustar preços dinamicamente. Escritórios jurídicos os empregam para redigir contratos e revisar cláusulas de risco.

A promessa é clara: mais eficiência, menos custo, mais velocidade. O problema é que, quanto maior a autonomia, maior o “raio de explosão” quando algo dá errado. E não é questão de “se” dá errado, mas de “quando”.

Casos reais que já assustam o mercado

Não faltam exemplos. Nos Estados Unidos, um agente de IA encarregado de comprar anúncios online gastou mais de US$ 1 milhão em uma campanha completamente fora do escopo, em questão de horas. Na Europa, um sistema de atendimento autônomo passou a oferecer descontos não autorizados a clientes fiéis, corroendo a margem da empresa por semanas antes que alguém percebesse.

No Brasil, relatos de empresas que utilizam agentes para cobrança automatizada já apontam para constrangimentos jurídicos: um robô que envia mensagens insistentes fora do horário permitido pode ser enquadrado como assédio. A pergunta que fica é: o algoritmo vai ao tribunal?

Quem é o responsável? A resposta jurídica ainda engatinha

O ordenamento jurídico brasileiro não foi feito para robôs que decidem. O Código Civil responsabiliza pessoas físicas e jurídicas por atos praticados por seus prepostos. Se um agente de IA causa dano a um consumidor, o Código de Defesa do Consumidor tende a responsabilizar a empresa que