nvidia/Nemotron-3-Embed-1B-NVFP4

Modelo de similaridade de sentenças · 1 B de parâmetros — 6.3 mil downloads e 46 curtidas no Hugging Face.

Hugging Face · Modelos ·nvidia · ·↓ 6304 ·♥ 46

O modelo nvidia/Nemotron-3-Embed-1B-NVFP4 aparece entre os mais comentados do Hugging Face — um termômetro do que a comunidade está realmente usando agora na tarefa de similaridade de sentenças.

Ficha técnica

  • Tarefa: similaridade de sentenças
  • Parâmetros: 1 B
  • Biblioteca: vllm
  • Formatos: safetensors, NVFP4
  • Licença: proprietária / outra
  • Downloads: 6.3 mil · Curtidas: 46

Hardware recomendado

Estimativa de VRAM só para carregar os pesos (com ~20% de folga para ativações). Contextos longos consomem memória adicional para o cache de atenção (KV cache).

  • Precisão original (16-bit): ~2.4 GB de VRAM — 1 GPU de consumo (≥ 8 GB, ex. RTX 3060)
  • Quantizado 8-bit: ~1.2 GB de VRAM — roda em CPU ou GPU de notebook
  • Quantizado 4-bit: ~0.6 GB de VRAM — roda em CPU ou GPU de notebook

Como rodar localmente

Gere embeddings com a sentence-transformers:

pip install -U sentence-transformers

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("nvidia/Nemotron-3-Embed-1B-NVFP4")
emb = model.encode(["primeira frase", "segunda frase"])
print(emb.shape)

Tags

vllm safetensors ministral3 text text-embeddings retrieval semantic-search nvfp4

Abrir o modelo no Hugging Face →

compartilhar: