O que os LLMs Prognosticadores Sabem mas Não Dizem: Sondando Representações Internas em Busca de Calibração e Fidelidade

arXiv:2607.08046v1 Tipo de Anúncio: novo Resumo: Grandes modelos de linguagem ajustados para previsões podem ser precisos, mas mal calibrados, e seu raciocínio em cadeia de pensamento (CoT) pode não refletir fielmente as evidências por trás de uma previsão. Perguntamos se as representações internas oferecem uma janela mais direta para ambos. Trabalhando com o Eternis-Forecaster 8B no OpenForesight, treinamos sondas de agrupamento de representações sobre ativações intermediárias e descobrimos que elas alcançam uma calibração substancialmente melhor; um resultado...