Como as representações lineares são aprendidas? Soluções exatas para a dinâmica da abstração

arXiv:2607.08843v1 Tipo de anúncio: novo Resumo: Em redes neurais artificiais e biológicas, os conceitos são frequentemente codificados como direções lineares consistentes no espaço de representação. No aprendizado profundo, essa ideia é conhecida como a hipótese da representação linear e serve de base para muitos métodos de interpretabilidade e controle baseados em sondas lineares, desde a detecção de conceitos até o direcionamento de ativações. No entanto, embora trabalhos anteriores tenham estudado se tais direções deveriam existir $\textit{depois}$ do treinamento, a dinâmica de como t...