Jet-Long: Extensão Eficiente de Contexto Longo com RoPE Bifocal Dinâmico

arXiv:2607.07740v1 Tipo de Anúncio: novo Resumo: Os LLMs modernos estão sendo cada vez mais implantados em aplicações de contexto longo, como a geração aumentada por recuperação, a programação em nível de repositório e os fluxos de trabalho agênticos, cujos rastros acumulados de raciocínio e de uso de ferramentas rotineiramente empurram a entrada uma ordem de magnitude além da janela de pré-treinamento, tornando a extensão de contexto em zero-shot o caminho de implantação dominante para checkpoints de pesos abertos. A maioria dos métodos existentes de zero-shot fixa um único fator de reescalonamento de antemão, de modo que uma agressiv...