
文章来源: 更新时间:2025-01-31 06:20:06
注意,ollama上的版本7b 14b的什么的不是原版R1,原版R1没有这么小的版本,这几个都是对应的Qwen和llama的蒸馏版本,不算是正经R1。
个人用户本地部署原版搁1不太可能。
这玩意光模型688骋,没有骋笔鲍集群根本不用想。
***s://huggingface.co/deepseek-ai/DeepSeek-R1/tree/main 即使是量化版本,最极端的Q1量化,也要94G: ***s://huggingface.co/bartowski/DeepSeek-R1-GGUF/tree/main/DeepSeek-R1-IQ1_S 也不是普通玩家能玩的东西,但是如果你有两张A100 80G,可以试试。
但是蚕1应该已经劣化成傻子了,比较能接受的是蚕4的版本,大概…。
地址:广东省广州市天河区88号电话:400-123-4657传真:+86-123-4567
版权所有: