SafePyramid: A Hierarchical Benchmark for In-context Policy Guardrailing
SafePyramid benchmark evaluates guardrail systems' ability to identify safety violations through in-context policy specification across multiple domains and complexity levels.
Hugging Face · Daily Papers
·Jiacheng Zhang, Haoyu He
·
·▲ 3 upvotes
Este artigo está em destaque na seleção diária de papers do Hugging Face, curada pela comunidade de pesquisa em IA.
Autores: Jiacheng Zhang, Haoyu He, Sen Zhang, Shen Wang, Xiaolei Xu, Yuhao Sun
- 3 upvotes da comunidade
- Temas: guardrails, in-context policy guardrailing, safety benchmark, policy specifications, multi-turn conversations, natural-language rules
Resumo
Resumo original (em inglês), extraído do paper:
SafePyramid benchmark evaluates guardrail systems' ability to identify safety violations through in-context policy specification across multiple domains and complexity levels.Onde ler
// relacionados
Leia também
Editorial
O modelo que continua aprendendo depois de entregue: dentro do Macaron-V1
Blog
Novo Nordisk e AWS levam IA agêntica à descoberta de medicamentos
Blog
Nvidia garante o valor de seus próprios chips para destravar US$ 500 bilhões em financiamento de infraestrutura de IA
Modelo