Redução de Tokens Não É Redução de Custo

arXiv:2607.12161v1 Tipo de Anúncio: novo Resumo: As camadas de redução de contexto para agentes de programação baseados em API, incluindo compressores de saída de comando, classificadores de recuperação e proxies otimizadores de payload, geralmente são avaliadas pela quantidade de texto que removem. Em vez disso, nós perguntamos: quando é que reduzir o contexto recuperado ou a saída de ferramentas diminui o custo real cobrado de um agente de programação sem reduzir o sucesso da tarefa nem alongar sua trajetória? Nossa principal evidência é uma campanha pareada, pré-especificada e congelada por hash, de 2.908 pr...

arXiv cs.CL ·Sarel Weinberger, Amir Hozez ·
compartilhar: