Blog
LLMs & Texto
Alocação Adaptativa em Dois Níveis de um Orçamento de Capacidade Conservado Entre Locais e Classes de Serviço
arXiv:2608.07747v1 Tipo de Anúncio: novo Resumo: Estudamos como compartilhar um único orçamento de capacidade conservado entre muitos locais e duas classes de serviço quando a demanda é desigual, varia ao longo do tempo e pode exceder a oferta. O formato se repete: o limite de taxa de requisições de uma origem dividido entre seus locais de borda, um limite de throughput licenciado entre inquilinos premium e padrão, ou um orçamento de saída entre cargas de trabalho críticas em latência e em lote. Apresentamos um algoritmo de dois níveis. O primeiro nível redistribui a capacidade dentro de ...
arXiv cs.AI
·Simone Mainardi, Kaushal Bansal, Prabhat Singh
·
// relacionados
Leia também
Editorial
O modelo que continua aprendendo depois de entregue: dentro do Macaron-V1
Blog
Novo Nordisk e AWS levam IA agêntica à descoberta de medicamentos
Blog
Nvidia garante o valor de seus próprios chips para destravar US$ 500 bilhões em financiamento de infraestrutura de IA
Modelo