Long-Horizon-Terminal-Bench: Testando os Limites de Agentes em Tarefas de Terminal de Longo Horizonte com Avaliação Baseada em Recompensa Densa
arXiv:2607.08964v1 Tipo de anúncio: novo Resumo: Os agentes de IA se tornaram capazes de concluir de forma autônoma tarefas curtas e bem especificadas. No entanto, os benchmarks de terminal existentes concentram-se em grande parte em problemas simples, que terminam em poucos minutos e são avaliados apenas pelo seu resultado final. Essa configuração ignora o progresso intermediário e as soluções parciais, produzindo sinais de recompensa esparsos e uma imagem incompleta da capacidade do agente. Nós apresentamos o Long-Horizon-Terminal-Bench, um benchmark de terminal com 46 tarefas de longo hor...
arXiv cs.AI
·Zongxia Li, Zhongzhi Li, Yucheng Shi, Ruhan Wang, Junyao Yang, Zhichao Liu, Xiyang Wu, Anhao Li, Yue Yu, Ninghao Liu, Lichao Sun, Haotao Mi, LeoweiLiang
·
// relacionados
Leia também
Blog
As alegações mais escandalosas no processo da Apple contra a OpenAI por segredos comerciais
Blog
O que a mais recente descoberta em IA da Anthropic mostra — e o que não mostra
Blog
Novo guia de prompts da OpenAI diz aos usuários para parar de complicar e começar pelo resultado
Blog