Criação de Ferramentas e Agentes de LLM Auto-Evolutivos em Sistemas de Baixa Latência

arXiv:2607.08010v1 Tipo de Anúncio: novo Resumo: Agentes de LLM em produção frequentemente desperdiçam latência e confiabilidade ao regerar código para os mesmos passos procedurais a cada requisição. Nós substituímos esse laço de codificação em tempo de inferência por um pipeline agêntico de criação de ferramentas que compila passos repetidos de SOP em ferramentas validadas e versionadas antes da implantação. O criador de ferramentas fundamenta a síntese no ambiente em tempo real à medida que coleta traços de execução, observa esquemas e valores de backend, gera ferramentas candidatas e rep...

arXiv cs.CL ·Kalle Kujanp\"a\"a, Ning Liu, Shahnawaz Alam, Yeshwanth Reddy Sura, Tianyu Yang, Kristina Klinkner, Shervin Malmasi ·
compartilhar: