Uma Miragem Emergente: O Desalinhamento e Realinhamento Emergentes São de Fato um Fenômeno Robusto?

arXiv:2607.09053v1 Tipo de anúncio: novo Resumo: Trabalhos recentes relataram o Desalinhamento Emergente (EM), no qual modelos de linguagem ajustados finamente em conjuntos de dados desalinhados, estreitos e específicos de domínio, adquirem abruptamente um comportamento amplamente desalinhado, junto a evidências de que esse comportamento pode ser revertido por meio de um realinhamento limitado. Nós estudamos sistematicamente ciclos repetidos de alinhamento e desalinhamento usando loops controlados de ajuste fino, enquanto acompanhamos o desempenho comportamental e as representações LoRA ao longo de todo o treinamento. Alt...