Compromisso Antes da Realização: Quando a Orientação Livre de Classificador se Torna Desnecessária em Modelos de Linguagem de Difusão Mascarada

arXiv:2608.08082v1 Tipo de Anúncio: novo Resumo: A orientação livre de classificador (CFG) normalmente é mantida ativa durante toda a decodificação de modelos de linguagem de difusão mascarada, embora seu benefício varie de acordo com os prompts e ao longo do tempo. Estudamos quando a CFG é realmente necessária comparando, a partir de qualquer saída parcial, a probabilidade de satisfação da restrição eventual sob a continuação com CFG e sob a continuação apenas com o modelo base. A diferença entre elas define o valor restante da orientação. A dependência de orientação é altamente específica de cada prompt. Muitos...