Atenção Delta de Fourier Semidireta: Memória Delta Controlada por Fase com Kernels Chunk-WY Construtivos

arXiv:2607.11897v1 Tipo de anúncio: novo Resumo: A atenção linear substitui o cache KV crescente da atenção softmax por um estado recorrente fixo, mas essa compressão limita o rastreamento exato de estado e a memória de longo contexto. Nós apresentamos a \emph{Atenção Delta de Fourier Semidireta} (SFDA), uma generalização controlada por fase da Kimi Delta Attention que substitui o decaimento diagonal real por controle de Fourier de rotação em blocos: \[ S_t=(I-\beta_t k_tk_t^*)\Lambda_tS_{t-1}+\beta_tk_tv_t^*, \qquad \Lambda_t=\diag(\alpha_...