Redução de Tokens Não É Redução de Custo
arXiv:2607.12161v1 Tipo de Anúncio: novo Resumo: As camadas de redução de contexto para agentes de programação baseados em API, incluindo compressores de saída de comando, classificadores de recuperação e proxies otimizadores de payload, geralmente são avaliadas pela quantidade de texto que removem. Em vez disso, nós perguntamos: quando é que reduzir o contexto recuperado ou a saída de ferramentas diminui o custo real cobrado de um agente de programação sem reduzir o sucesso da tarefa nem alongar sua trajetória? Nossa principal evidência é uma campanha pareada, pré-especificada e congelada por hash, de 2.908 pr...
arXiv cs.CL
·Sarel Weinberger, Amir Hozez
·
// relacionados
Leia também
Blog
Orquestração agêntica: as organizações de IA corporativa têm um problema de implantação, não um problema de plataforma — e a maioria está chamando chatbots de agentes
Blog
Soofi Consortium lança o Soofi S 30B-A3B: um modelo de fundação MoE híbrido Mamba-Transformer aberto para alemão e inglês
Modelo
thinkingmachines/Inkling
Blog