BG 青果短剧 青果短剧-成人短剧

纯CPU+二手傲腾内存成功运行2.8万亿参数Kimi K3大模型

webiosf0e9b

DateTime 2026年11月10日 Show 1

转载:https://ai.zol.com.cn/1271/12713482.html

2026-11-09 16:40:47·[??中关村在线 原创??]·作者:两三杯可乐

2026年11月9日,有技术爱好者在纯CPU平台成功运行了月之暗面研发的Kimi K3模型。该模型参数量达2.8万亿,属当前公开领域中规模最庞大的语言模型之一。

尤为引人注目的是,整套系统并未依赖高端显卡,而是采用早已停产的第二代傲腾持久内存(Optane PMem 200)作为核心存储资源。这一方案突破了常规认知——通常运行此类超大规模模型需配备数万元级别的GPU集群或海量高速内存,而此次仅依靠CPU与持久内存组合即实现完整推理流程。

Kimi K3即便经过深度量化压缩,仍需至少610GB可用内存空间。在DDR4与DDR5内存价格持续高位运行的当下,堆叠同等容量的传统内存成本极高。相比之下,二手市场流通的第二代傲腾持久内存提供了极具吸引力的替代路径,单位容量成本仅为常规内存的数分之一。

硬件配置方面,系统搭载一颗40核心的第三代英特尔至强可扩展处理器,并配以第二代傲腾持久内存200系列模组。该内存于2020年随第三代至强平台同步推出,单条容量覆盖128GB至512GB区间。在App Direct工作模式下,内存被直接映射为可编程的持久化地址空间,使软件能够精细调度模型张量的加载与驻留位置,从而提升资源利用效率。

但需特别注意的是,傲腾持久内存在高负载状态下功耗显著,发热量远超普通内存。实测中,该用户为确保稳定运行,在内存插槽区域部署了两台额定功率12W的涡轮散热风扇进行定向强冷。他强调,若缺乏足够散热能力,内存持续高温不仅可能损伤邻近的常规内存条,甚至可能导致主板插槽因过热而形变或熔毁。

性能表现上,系统推理速度较为缓慢:在1位量化精度下,吞吐约为0.85 Token/秒;当提升至3位量化时,速率进一步降至0.75 Token/秒。据此估算,生成长度为5万Token的内容需耗时13小时以上。该响应速度显然无法支撑实时交互场景,但对非时效性要求的离线批量任务,例如夜间后台处理、长文本预生成或模型行为分析等,仍展现出突出的成本效益优势。

Copyright2026软件下载官网