应使用ollama show 模型名命令查看已注册模型的实际参数,如quantization、num_ctx等;若模型未注册则需先pull或create;也可查Hugging Face的config.json确认torch_dtype和max_position_embeddings,或用gguf-dump解析GGUF文件头获取真实量化信息。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

想确认你本地下载的DeepSeek V4模型实际使用的是哪种量化精度、上下文长度或温度默认值,不能只看文件名或网页描述——不同来源的同名模型可能配置差异极大,直接运行时才发现token截断或显存爆掉,已经晚了。
用Ollama命令行查已下载模型参数
这一步操作起来很简单,直接在终端输入命令就行,但必须确保模型已成功下载并注册进Ollama本地库。
执行 ollama list,找到你要查的模型名(例如 deepseek-v4-flash)。
运行 ollama show deepseek-v4-flash,输出内容中会明确列出 【quantization: Q5_K_M】、【num_ctx: 8192】 等关键参数项。
注意:如果提示“model not found”,说明该模型尚未被Ollama识别,需先执行 ollama create 或 ollama pull 注册;仅靠把GGUF文件丢进目录不会自动生效。
查Hugging Face模型原始配置文件
官方发布的DeepSeek V4模型卡片里,所有参数都藏在 config.json 和 generation_config.json 中,这是最权威的来源,不受第三方打包干扰。
打开模型页面(如 https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro-Base),点击 “Files and versions” 标签页。
找到并下载 config.json 文件,用文本编辑器打开,搜索 "torch_dtype" 字段,可确认原始训练精度(如 "bfloat16")。
再搜索 "max_position_embeddings",这个值就是模型原生支持的最大上下文长度,V4系列普遍为256k,但部分量化版会缩水到128k甚至更低——别信宣传页写的“支持256K”,得看这里。
解析GGUF文件头获取真实量化信息
GGUF格式把所有元数据都打包装进文件开头,比依赖外部JSON更可靠,尤其适合验证第三方重打包模型是否被篡改过参数。
方法一:用 gguf-dump 工具(需单独安装)查看完整头信息:
执行 gguf-dump deepseek-v4.Q5_K_M.gguf | grep -i "quant",直接定位量化方式。
方法二:用十六进制编辑器(如 HxD 或 xxd)打开GGUF文件,跳转到偏移量 0x10 处,前4字节是 magic number,紧接着是 version、n_tensors、n_kv,再往后几百字节内能找到 quantization_version 和 general.quantization_type 字段。
注意:Q4_K_M、Q5_K_S、Q6_K等后缀中的字母组合代表分组量化策略,不是简单等价于INT4或INT5——【Q5_K_M ≠ INT5】,它对权重矩阵做了块级精度分配,某些列保留更高位宽,盲目换算会导致推理异常。



















