Quando reduzir vieses sai pela culatra: efeitos colaterais contraintuitivos da mitigação de estereótipos baseada em pré-processamento

arXiv:2607.07937v1 Tipo de anúncio: novo Resumo: Métodos baseados em pré-processamento para mitigação de estereótipos, como pré-treinamento/pós-treinamento em corpora com vieses reduzidos, são amplamente usados em NLP. Embora essas abordagens reduzam estereótipos mensuráveis para grupos-alvo, descobrimos que elas frequentemente induzem mudanças não intencionais — efeitos colaterais, em que a estereotipagem ou a contraestereotipagem pode aumentar em relação a linhas de base neutras para outros grupos demográficos, inclusive em categorias demográficas não relacionadas. Demonstramos esses efeitos colateral...