2月26日,据计算机存储领域顶会FAST2025,Kimi与清华大学联合参与的项目论文《Mooncake: Trading More Storage for Less Computation-A KVCache-centric Architecture for Serving LLM Chatbot》获得最佳论文奖。Mooncake是月之暗面Kimi的底层推理服务平台。
2024年11月,Kimi和清华大学 MADSys实验室联合9#AISoft、阿里云、华为存储、面壁智能、趋境科技等机构启动Mooncake开源计划,开源Mooncake Transfer Engine。Mooncake团队还和vLLM团队(UC伯克利大学的开源大语言模型)共同宣布,将把Mooncake的创新性KVCache中心架构引入更多开源社区。(澎湃新闻记者 范佳来)
(本文来自澎湃新闻,更多原创资讯请下载“澎湃新闻”APP)
- 随机文章
- 热门文章
- 热评文章
- 入市新动向!理财公司积极布局此类产品
- JCO丨张耀军教授:射频消融vs立体定向放射治疗在复发性小肝
- 张文宏教授:慢乙肝全流程管理,机遇与挑战并存!
- 能不能买到要看运气?老铺黄金最高涨价12%
- 张新民任全国人大常委会副秘书长
- 樱花开引蜂来
- 省医便民到身边③|打造适老化就诊环境,让老年人就医全程无忧
- 中到大雪+小到中雪!甘肃新一轮降雪来了→