私有部署kimi k3需要花多少钱?

[复制链接]
发表于 2026-7-28 12:44:24 来自手机 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
Kimi K3发布后,老板让我算算本地化部署要多少钱。算完他沉默了。
K3有2.8万亿参数,MoE架构,想本地跑?最少64张H200起步。
我列了个清单:
显卡:64张H200,141GB显存版本
网络:NVLink交换机+800G光模块+RDMA交换机 CPU:双路Xeon/EPYC,PCle 5.0内存:每台1-2TB DDR5
存储:RAID阵列,每台不低于8TB企业级SSD散热:液冷,风冷根本压不住电源:单机柜160kW,钛金电源
硬件成本:3000万(一次性)
然后我算了算电费:
64张H200,单卡0.7kW,总功耗44.8kW加上PUE1.55,实际取电69.44kW工业用电1.5元/度,一小时104块一年8760小时满载:91万
就这还没算场地、机房改造、运维人员。
回复

使用道具 举报

发表于 2026-7-28 13:59:13 来自手机 | 显示全部楼层
本地化部署多少还是有些不太现实,这是许多中小企业1到3年的利润,真的需要好好算一笔账。利润年增长率(不是效率)需要提升多少在几年内回收成本,
回复 支持 反对

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表