unsloth/DeepSeek-V4-Flash-GGUF

O modelo unsloth/DeepSeek-V4-Flash-GGUF aparece entre os mais comentados do Hugging Face — um termômetro do que a comunidade está realmente usando agora na tarefa de modelo.

Ficha técnica

Como rodar localmente

Os pesos estão em GGUF, prontos para rodar na CPU ou GPU com Ollama, llama.cpp ou LM Studio — sem Python.

# Ollama
ollama run hf.co/unsloth/DeepSeek-V4-Flash-GGUF

# ou llama.cpp
llama-cli -hf unsloth/DeepSeek-V4-Flash-GGUF -p "Explique o que é entropia."

Tags

gguf deepseek_v4 unsloth deepseek fp8 imatrix conversational

Abrir o modelo no Hugging Face →