Quantização Simétrica com Sinal para Inteiros de Poucos Bits

arXiv:2607.08779v1 Tipo de anúncio: novo Resumo: O alfabeto de inteiros com sinal contém um valor negativo representável a mais do que positivos. No entanto, por convenção, o quantizador de inteiros simétrico padrão fixa sua escala como estritamente positiva, o que atribui esse valor representável extra à cauda negativa e pode forçar o recorte de outliers positivos. Neste trabalho, mostramos que, em precisão de poucos bits, tal recorte é uma fonte não trivial de erro de quantização. A quantização assimétrica aborda isso...