TrustVLA: Defesa em Tempo de Inferência Guiada por Mecanismo Contra Backdoors em Modelos de Visão-Linguagem-Ação
arXiv:2607.12571v1 Tipo de Anúncio: novo Resumo: Modelos de Visão-Linguagem-Ação (VLA) são implantados por meio de pipelines que os usuários finais não conseguem auditar, e um VLA envenenado pode se comportar normalmente diante de observações limpas, enquanto um pequeno gatilho visual redireciona uma política robótica de longo horizonte antes que qualquer falha se torne observável. As defesas existentes de visão ou linguagem raramente explicam como é a aparência de uma representação de VLA acionada por gatilho ou como recuperar o comportamento sem retreinamento. Estudamos essa lacuna por meio de dois independentemente...
arXiv cs.RO
·Pinhan Fu, Xianda Guo, Xuetao Li, Wenke Huang, Ruilin Wang, Weiheng Zhao, Wei Sui, Mang Ye
·
// relacionados
Leia também
Blog
Orquestração agêntica: as organizações de IA corporativa têm um problema de implantação, não um problema de plataforma — e a maioria está chamando chatbots de agentes
Blog
Conheça o GPT-Red: um super-hacker LLM que a OpenAI criou para tornar seus modelos mais seguros
Blog
NVIDIA e Japão levam IA e robótica full-stack para todos os setores
Blog