红帽与Run:ai为混合云优化人工智能工作负载

时间:2024-05-16来源:EEPW

全球领先的开源解决方案提供商红帽公司与人工智能(AI)优化和编排领域的领导者Run:ai今日宣布展开合作,将Run:ai的资源优化功能集成到红帽OpenShift AI中。此合作通过简化AI操作和优化底层基础设施,使企业能够充分利用AI资源。在一个可靠的MLOps平台上,企业可以高效地构建、调整、部署和监控AI应用和模型,从而最大化人力和硬件资源的效用。

GPU是推动AI工作流程的核心计算引擎,支持模型训练、推理和实验等。鉴于这些专用处理器的高昂成本,特别是在分布式训练和推理场景中。红帽与Run:ai正联合提供解决方案,通过在红帽OpenShift AI上部署经认证的Run:ai OpenShift Operator,满足GPU资源优化的关键需求,帮助用户在任何场景下扩展和优化其AI工作负载。Run:ai的云原生计算编排平台在红帽OpenShift AI上提供的帮助包括:

●   利用专用工作负载调度程序,解决AI工作负载的GPU调度问题,轻松确定关键任务工作负载的优先级,并确保分配足够资源支持这些工作负载。

●   通过部分GPU使用和监控功能,根据设定的优先级和策略动态分配资源,提升基础设施效率。

●   改善对共享GPU基础设施的控制和可见性,为IT、数据科学和应用开发团队提供更便捷的访问和资源分配方式。

Run:ai的认证OpenShift Operator现已可用。展望未来,红帽和Run:ai计划继续加强合作,在红帽OpenShift AI上为Run:ai引入更多集成功能。此举旨在提供更无缝的客户体验,并进一步加速AI模型向生产工作流的转移,实现更高的一致性。

支持证言

Steven Huels,红帽副总裁兼AI事业部总经理

“随着AI采用率的提高和对GPU需求的增加,企业需优化其AI平台,以充分利用运营和基础设施,无论这些资源位于混合云的哪个部分。通过与Run:ai的合作,让企业能够在不牺牲AI/ML平台的可靠性或宝贵的GPU资源的情况下,在任何必需的地方最大限度地扩展AI工作负载。”

Omri Geller,Run:ai首席执行官兼创始人

“我们很高兴能与红帽OpenShift AI合作,增强AI运营的能力和潜力。通过利用红帽OpenShift的MLOps优势和Run:ai在AI基础设施管理方面的专业知识,我们正在为企业AI设立新标准,提供无缝的可扩展性和优化的资源管理。”

关键词: 红帽 Run:ai 混合云

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW

或用微信扫描左侧二维码

相关文章

查看电脑版