华为ModelEngine支持DeepSeek全系列本地部署

时间:2025-02-07来源:SEMI

2月7日消息,日前,华为技术有限公司宣布,华为DCS AI全栈解决方案中的重要产品ModelEngine AI平台,全面支持DeepSeek大模型R1&V3和蒸馏系列模型的本地部署与优化,加速客户AI应用快速落地。

此次 ModelEngine 基于昇腾AI芯片,通过推理框架优化和MoE存算协同,提供动态换入换出和全局统一缓存,实现推理高并发和低时延,用户通过ModelEngine体验DeepSeek的推理能力。

另外,华为官方表示,DCS AI全栈解决方案近期将上线DeepSeek体验环境。

关键词: 华为 ModelEngine AI DeepSeek大模型

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW

或用微信扫描左侧二维码

相关文章

查看电脑版