Speculate While You Reason: Teaching Agents to Predict Their Next Tool Call via Joint Agent-Speculator RL

Agentes de IA Aprendem a Antecipar as Próprias Ações e Ganham Velocidade

Um dos maiores gargalos no uso de assistentes inteligentes baseados em grandes modelos de linguagem está no tempo que eles passam esperando. Toda vez que um agente de IA precisa consultar uma base externa, buscar dados na web ou acionar uma API, ele interrompe seu raciocínio e aguarda o resultado. Essa espera, medida no relógio de parede da aplicação, muitas vezes representa mais da metade do tempo total de resposta percebido pelo usuário. Uma nova pesquisa, publicada por cientistas da área, propõe uma solução elegante: ensinar o próprio agente a prever qual será sua próxima chamada de ferramenta antes mesmo de receber o retorno da requisição atual.

O Gargalo Silencioso das Chamadas de Ferramenta

Agentes de IA modernos funcionam em um ciclo de raciocínio e ação. O modelo pensa, decide qual ferramenta externa precisa usar, faz a chamada e então processa o resultado para decidir o próximo passo. Embora o processamento interno do modelo seja rápido, o tempo consumido por cada consulta externa — seja uma busca no banco de dados da empresa ou uma requisição a um serviço de clima — é imprevisível e frequentemente alto. Para aplicações empresariais que exigem respostas quase instantâneas, como chatbots de atendimento ou sistemas de recomendação em tempo real, essa latência é um obstáculo crítico.

Especulação: Arriscar um Palpite para Ganhar Tempo

Uma técnica conhecida para contornar esse atraso é a especulação de chamadas. A ideia soa simples: enquanto o agente espera o resultado da ferramenta A, um segundo componente — o especulador — tenta adivinhar qual será a próxima ferramenta B que o agente pedirá. Se o palpite estiver correto, a chamada para B já pode ser pré-executada, e o resultado fica pronto antes mesmo de o agente solicitá-la oficialmente. Na prática, é como se um assessor lesse a mente do chefe e já preparasse o documento seguinte enquanto o chefe ainda analisa o primeiro relatório.

O problema atual está justamente nesse especulador. As soluções existentes costumam usar modelos auxiliares mais leves ou bancos de dados de trajetórias passadas que ficam armazenados em cache. Acontece que esses especuladores externos frequentemente não pensam como o agente principal. Eles podem ser rápidos, mas erram o palpite com frequência, anulando a vantagem da pré-execução. A pesquisa identificou e batizou esse desalinhamento de “lacuna especulador-agente”.

O Próprio Agente como Melhor Adivinhador

Os pesquisadores fizeram uma observação que muda a direção do jogo: o agente original, aquele que está resolvendo a tarefa, é um especulador surpreendentemente forte de si mesmo. Afinal, ninguém conhece melhor o próximo passo do que quem está no meio da execução. Essa constatação levou a um design muito mais limpo: unificar agente e especulador em um único modelo.

O trabalho apresenta o agente autoespeculativo. Trata-se de um único grande modelo de linguagem que opera em dois modos distintos. No modo agente, ele resolve a tarefa principal normalmente, seguindo o ciclo de raciocinar e acionar ferramentas. No modo especulador, o mesmo modelo — reaproveitando todo o contexto já processado na memória de trabalho — prevê qual será sua próxima chamada de ferramenta a partir de uma trajetória ainda incompleta.