Quando dois erros se anulam: o defeito escondido na destilação de difusão

Quase todo gerador de imagem que você já usou depende de um truque chamado guia sem classificador (classifier-free guidance, ou CFG). Funciona assim: o modelo faz duas previsões a cada passo — uma condicionada ao seu prompt, outra sem ele — e a saída final é uma extrapolação a partir da diferença entre as duas. Empurrar na direção que separa "com prompt" de "sem prompt" é o que faz a imagem obedecer ao texto. O quanto se empurra é o parâmetro γ que aparece como "guidance scale" nas interfaces.

Quando se quer destilar esse modelo — transformar um gerador de 50 passos em um de 4, para caber num orçamento de inferência —, a prática corrente é treinar o modelo-aluno para reproduzir a previsão final composta do professor. É o número que sai no fim, afinal. Um trabalho publicado nesta semana pela unidade de negócios Qwen, do Alibaba, mostra que exatamente aí mora um problema estrutural.

O objetivo mal identificado

Se o aluno só é cobrado pelo resultado composto, existe uma infinidade de maneiras de chegar ao número certo pelas razões erradas. Um erro na previsão positiva pode ser compensado por um erro de sinal oposto na previsão negativa, e a perda de treino não enxerga diferença. Os autores chamam isso de objetivo sub-identificado: os dados de supervisão não determinam uma única solução.

Na maior parte do tempo isso passaria despercebido. O caso em que não passa é o que o paper chama de condicionamento negativo privilegiado — situações em que o ramo negativo do professor carrega informação que o aluno não tem acesso. Isso acontece, por exemplo, em destilação condicionada a referência, quando o professor recebe uma imagem de estilo que o aluno não vê.

Nesse regime aparece o fenômeno central do trabalho, batizado de Assimetria de Ramo Negativo (NBA): a dinâmica de treino vira antagônica. Reduzir o erro no ramo positivo aumenta o erro no ramo negativo, e vice-versa. O modelo não converge para uma boa solução; ele oscila entre duas formas de estar errado que se cancelam na saída.

A correção: separar o que estava somado

A proposta se chama PDM (Positive–Direction Matching, casamento positivo-direcional) e faz o que o nome diz. Em vez de supervisionar apenas a previsão composta, supervisiona duas coisas independentes: a previsão positiva e a direção condicional do CFG — o vetor que aponta de "sem prompt" para "com prompt". Como as duas quantidades são casadas separadamente, não há como um erro compensar o outro. O objetivo deixa de ser sub-identificado.

Onde a diferença aparece de verdade

Os ganhos em métrica agregada são modestos — 0,6 ponto percentual de recompensa OCR sobre o método ingênuo, encurtando pouco mais de um terço da distância até o professor. Quem lê só essa linha vai achar o trabalho marginal. A diferença qualitativa está em outro lugar.

Em destilação condicionada a referência, o método ingênuo apresenta distorção visual e desvio de estilo — o aluno deixa de respeitar a referência fornecida —, e o efeito é mais grave justamente em γ=1, o ponto em que o CFG está praticamente desligado. O PDM preserva o estilo da referência ao longo de toda a faixa de guia. É o tipo de falha que não aparece em FID nem em recompensa média, mas que qualquer pessoa gerando imagens comerciais nota na primeira dúzia de amostras.

O teste mais sistemático foi em controle denso-para-esparso de vídeo, sobre 600 clipes do OpenHumanVid, com três modalidades de controle. Em pose, o PDM obteve o melhor MPJPE em quadros-chave e o melhor PCK@0,1 — as duas métricas padrão de erro articular. Em profundidade, o melhor SI-RMSE. Em rabisco, melhora consistente sobre o método ingênuo. E, em todas, a estabilidade ao variar γ fora do valor usado no treino.

Por que a estabilidade em γ é o resultado prático

Esse último ponto merece destaque porque é o que muda o dia a dia de quem usa o modelo. Um gerador destilado que só funciona bem no valor de guia em que foi treinado é, na prática, um gerador com um botão travado — a pessoa mexe no controle de "quanto obedecer ao prompt" e a qualidade despenca. É um sintoma que a comunidade de geração de imagem conhece bem e costumava atribuir a "limitação da destilação".

O paper oferece uma explicação mecânica: não é limitação da destilação, é consequência de um objetivo que permitia ao aluno acertar por cancelamento. Um cancelamento calibrado para um γ específico não sobrevive a outro γ. Corrigido o objetivo, a fragilidade some.

O que fica

Este é o tipo de trabalho que a área produz pouco e deveria produzir mais: em vez de propor uma arquitetura nova, alguém foi olhar por que a função de perda estabelecida permite soluções erradas — e descobriu que o defeito estava numa soma feita cedo demais. A lição vale além da difusão. Sempre que um objetivo de treino supervisiona só o agregado de componentes que o modelo produz internamente, existe espaço para o modelo acertar o total errando as partes.

Perguntas Frequentes

O que é guia sem classificador (CFG)?

É a técnica que faz um modelo de difusão obedecer ao prompt. A cada passo, o modelo produz uma previsão condicionada ao texto e outra não condicionada; a saída final extrapola na direção da diferença entre elas, com intensidade controlada pelo parâmetro γ (o "guidance scale" das interfaces).

O que é destilação em modelos de difusão?

É treinar um modelo-aluno para reproduzir o comportamento de um modelo-professor usando muito menos passos de inferência — de dezenas para poucos. É o que torna viável gerar imagem ou vídeo em tempo aceitável e a custo baixo. Na variante on-policy, o aluno é supervisionado nas trajetórias que ele próprio gera.

O ganho de 0,6 ponto percentual justifica o método?

A métrica agregada subestima o efeito. O ganho relevante é qualitativo: preservação de estilo em destilação condicionada a referência e estabilidade quando o usuário varia a escala de guia — casos em que o método anterior degradava visivelmente sem que isso aparecesse na pontuação média.