Escalando modelos de linguagem com corte temporal
arXiv:2607.11889v1 Tipo de anúncio: novo Resumo: Grandes modelos de linguagem treinados em corpora irrestritos da internet inevitavelmente incorporam informações do futuro, introduzindo um viés de antecipação que compromete a validade de backtests e da inferência causal em finanças e nas ciências sociais. Modelos de linguagem com corte temporal — treinados exclusivamente com textos disponíveis até cada data do calendário — eliminam esse vazamento por construção, mas os esforços existentes normalmente produzem modelos que ficam substancialmente atrás de seus...
arXiv cs.CL
·Bryan Kelly, Semyon Malamud, Johannes Schwab, Teng Andrea Xu
·
// relacionados
Leia também
Blog
Orquestração agêntica: as organizações de IA corporativa têm um problema de implantação, não um problema de plataforma — e a maioria está chamando chatbots de agentes
Blog
Soofi Consortium lança o Soofi S 30B-A3B: um modelo de fundação MoE híbrido Mamba-Transformer aberto para alemão e inglês
Modelo
thinkingmachines/Inkling
Blog