nvidia/Nemotron-3-Embed-8B-BF16

Modelo de similaridade de sentenças · 8 B de parâmetros — 14.0 mil downloads e 51 curtidas no Hugging Face.

Hugging Face · Modelos ·nvidia · ·↓ 14038 ·♥ 51

O modelo nvidia/Nemotron-3-Embed-8B-BF16 aparece entre os mais comentados do Hugging Face — um termômetro do que a comunidade está realmente usando agora na tarefa de similaridade de sentenças.

Ficha técnica

  • Tarefa: similaridade de sentenças
  • Parâmetros: 8 B
  • Biblioteca: sentence-transformers
  • Formatos: safetensors
  • Licença: proprietária / outra
  • Downloads: 14.0 mil · Curtidas: 51

Hardware recomendado

Estimativa de VRAM só para carregar os pesos (com ~20% de folga para ativações). Contextos longos consomem memória adicional para o cache de atenção (KV cache).

  • Precisão original (16-bit): ~19 GB de VRAM — 1 GPU high-end (24 GB, ex. RTX 3090/4090)
  • Quantizado 8-bit: ~9.6 GB de VRAM — 1 GPU de consumo (12 GB, ex. RTX 3060/4070)
  • Quantizado 4-bit: ~4.8 GB de VRAM — 1 GPU de consumo (≥ 8 GB, ex. RTX 3060)

Como rodar localmente

Gere embeddings com a sentence-transformers:

pip install -U sentence-transformers

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("nvidia/Nemotron-3-Embed-8B-BF16")
emb = model.encode(["primeira frase", "segunda frase"])
print(emb.shape)

Tags

sentence-transformers safetensors ministral3 feature-extraction text text-embeddings retrieval semantic-search

Abrir o modelo no Hugging Face →

compartilhar: