Ataques de persuasão podem reduzir a eficácia do monitoramento de CoT

arXiv:2607.08066v1 Tipo de anúncio: novo Resumo: O monitoramento de cadeia de raciocínio (CoT) é um mecanismo de segurança promissor para agentes de IA, baseado na premissa de que traços de raciocínio visíveis podem revelar comportamentos desalinhados ou enganosos. Embora seja eficaz em cenários padrão, trabalhos recentes destacam que os LLMs continuam vulneráveis a jailbreaks baseados em persuasão, nos quais argumentos em linguagem natural anulam as restrições do modelo. Nós submetemos a testes de estresse se essa vulnerabilidade se estende aos LLMs de monitoramento: pode um agente adversário...