O Custo de Segurança dos Vetores de Direcionamento É Separável e Redutível

arXiv:2608.08383v1 Tipo de Anúncio: novo Resumo: Vetores de direcionamento são uma ferramenta leve para controlar o comportamento de LLMs. No entanto, evidências emergentes mostram que os vetores de direcionamento podem comprometer involuntariamente os mecanismos de segurança de um modelo e aumentar a conformidade com solicitações prejudiciais, enquanto ainda não existe nenhuma mitigação eficaz. Neste trabalho, mostramos que essa degradação de segurança surge de um componente separável no vetor que perturba os mecanismos de segurança do modelo, mas contribui pouco para o direciona...