首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
SAAS
ToB门户
了解全球最新的ToB事件
论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
微博
Follow
记录
Doing
博客
Blog
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
排行榜
Ranklist
相册
Album
应用中心
qidao123.com ToB IT社区-企服评测·应用市场
»
论坛
›
人工智能
›
人工智能
›
私有部署kimi k3需要花多少钱?
返回列表
发新帖
私有部署kimi k3需要花多少钱?
[复制链接]
发表于 2026-7-28 12:44:24
来自手机
|
显示全部楼层
|
阅读模式
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
×
Kimi K3
发布
后,老板让我算算本地化部署要多少钱。算完他沉默了。
K3有2.8万亿参数,MoE架构,想本地跑?最少64张H200起步。
我列了个清单:
显卡:64张H200,141GB显存
版本
网络:NVLink
交换机
+800G光模块+RDMA
交换机
CPU:双路Xeon/EPYC,PCle 5.0内存:每台1-2TB DDR5
存储
:RAID阵列,每台不低于8TB企业级SSD散热:
液冷
,风冷根本压不住电源:单机柜160kW,钛金电源
硬件成本:3000万(一次性)
然后我算了算电费:
64张H200,单卡0.7kW,总功耗44.8kW加上PUE1.55,实际取电69.44kW工业用电1.5元/度,一小时104块一年8760小时满载:91万
就这还没算场地、机房改造、运维人员。
回复
使用道具
举报
发表于 2026-7-28 13:59:13
来自手机
|
显示全部楼层
本地化部署多少还是有些不太现实,这是许多中小企业1到3年的利润,真的需要好好算一笔账。利润年增长率(不是效率)需要提升多少在几年内回收成本,
回复
支持
反对
使用道具
举报
返回列表
诗林
+ 我要发帖
登录后关闭弹窗
登录参与点评抽奖 加入IT实名职场社区
去登录
微信订阅号
微信服务号
微信客服(加群)
H5
小程序
快速回复
返回顶部
返回列表