Paper
LLMs & Texto
When Lower Privileges Suffice: Investigating Over-Privileged Tool Selection in LLM Agents
LLM agents frequently select higher-privilege tools unnecessarily, and while safety alignment doesn't ensure least-privilege choices, a post-training defense can reduce excessive p…
Hugging Face · Daily Papers
·Kaiyue Yang, Yuyan Bu
·
·▲ 3 upvotes
Este artigo está em destaque na seleção diária de papers do Hugging Face, curada pela comunidade de pesquisa em IA.
Autores: Kaiyue Yang, Yuyan Bu, Jingwei Yi, Yuchi Wang, Biyu Zhou, Juntao Dai
- 3 upvotes da comunidade
- Temas: tool selection, privilege-sensitive choices, over-privileged tool selection, ToolPrivBench, least-privilege tool choice, post-training defense
Resumo
Resumo original (em inglês), extraído do paper:
LLM agents frequently select higher-privilege tools unnecessarily, and while safety alignment doesn't ensure least-privilege choices, a post-training defense can reduce excessive privilege use without sacrificing performance.
// relacionados
Leia também
Blog
Amazon ups India bet with fresh $13B AI infrastructure investment
Editorial
Jalapeño: a OpenAI projeta seu primeiro chip de inferência — e usou IA para fazer isso em 9 meses
Editorial
SkillOpt: como ensinar agentes de IA a melhorar suas próprias habilidades — +23 pontos em GPT-5.5
Blog