Paper
LLMs & Texto
Stealing Reasoning Traces from Proprietary LLM APIs
Encrypted reasoning traces shared across sessions and models can be intercepted and injected into weaker models to extract proprietary reasoning, private data, hidden hazards, and…
Hugging Face · Daily Papers
·Alexander Panfilov, David Schmotz
·
·▲ 5 upvotes
Este artigo está em destaque na seleção diária de papers do Hugging Face, curada pela comunidade de pesquisa em IA.
Autores: Alexander Panfilov, David Schmotz, Ilia Shumailov, Luca Beurer-Kellner, Joachim Schaeffer, Ameya Prabhu
- 5 upvotes da comunidade
- Temas: chain-of-thought, encrypted reasoning traces, decryption jailbreak, anti-distillation, PII extraction, invisible prompt injection
Resumo
Resumo original (em inglês), extraído do paper:
Encrypted reasoning traces shared across sessions and models can be intercepted and injected into weaker models to extract proprietary reasoning, private data, hidden hazards, and hidden prompts.Onde ler
// relacionados
Leia também
Editorial
O modelo que continua aprendendo depois de entregue: dentro do Macaron-V1
Blog
Novo Nordisk e AWS levam IA agêntica à descoberta de medicamentos
Blog
Nvidia garante o valor de seus próprios chips para destravar US$ 500 bilhões em financiamento de infraestrutura de IA
Modelo