
文章来源: 更新时间:2025-02-01 12:40:07
著名人工智能社区 huggingface 的工程师马修·卡里根展示了在本地运行 Deepseek-R1 的完整的硬件 + 软件设置,他使用的是 670B 模型,无蒸馏,Q8 量化,实现全质量。
总成本 6,000 美元。
主板:技嘉 MZ73-LM0 或 MZ73-LM1。
有 2 个 EPYC 插槽,以获得 24 个 DDR5 RAM 通道。
CPU:2x 任何 AMD EPYC 9004 或 9005 CPU。
“LLM 一代的瓶颈在于内存带宽,因此您不需要高端产物。
如果您真的想降低成本,请购买 9115 甚至 9015。
” RAM…。
地址:广东省广州市天河区88号电话:400-123-4657传真:+86-123-4567
版权所有: