Uma lei de robustez para redes neurais de duas camadas com pesos arbitrários

arXiv:2607.07778v1 Tipo de anúncio: novo Resumo: Bubeck, Li e Nagaraj conjecturaram que, para dados genéricos, qualquer rede neural de duas camadas com $m$ neurônios que se ajuste a $n$ rótulos ruidosos deve ter constante de Lipschitz de ordem pelo menos $\sqrt{n/m}$, sem restrição quanto ao tamanho dos pesos. Bubeck e Sellke provaram uma versão universal dessa lei para classes parametrizadas por Lipschitz, mas sob um limite polinomial nos parâmetros; na profundidade três, essa hipótese de limitação é genuinamente necessária. Th...

arXiv cs.LG ·Yitzchak Shmalo ·
compartilhar: