“据统计,GPU的平均利用率不超过30%,会产生巨大的算力资源浪费。我们用软件定义的方式通常可以把用户GPU的利用率提升3-8倍,甚至可以到10倍。” 这是算力池化软件公司趋动科技援引行业报告数据并结合自身企业最佳实践经验给出的最新数据。通过自研的猎户座OrionX AI算力资源池化软件,趋动科技可以帮助客户构建数据中心级 AI 算力资源池,客户无需修改应用就能使用数据中心内任一台服务器的 AI 算力,并通过大幅优化应用部署,提升用户的资源利用率,为AI产业带来全新的算力供给模式。 重新定义AI算力资源 在第二届光合组织AI解决方案大赛上,趋动科技基于与海光硬件产品底座的适配和优化,打造的“信创全栈自主可控异构AI算力资源池”方案,获得了本届大赛一等奖。 趋动科技生态运营总监文禹翔介绍,AI算力资源池方案主要针对当前异构算力使用方式粗放、跨厂商异构算力资源难以统一管理调度等问题。方案将物理异构算力资源进行池化管理,实现按需调度异构算力资源及跨厂商异构算力资源精细化管理。 2310170953431075511979.png 方案架构图 方案中的基础设施层,依托于海光服务器的性能优势,可以实现两大跃升;在操作系统层,AI算力资源池基于银河麒麟服务器操作系统,借助海光CPU、DCU平台优势,对内核安全、RAS特性、I/O性能、虚拟化和国产硬件、驱动支持等方面进一步优化增强;在虚拟化层,趋动科技OrionX将AI算力资源抽象为虚拟资源,最终实现AI算力资源的软件定义。 让生态飞轮加速旋转 “信创领域的算力资源池建设需要链接国产软硬件厂商共同推动,海光在国产芯片行业处于领先梯队,为我们提供了很大的支撑。”文禹翔表示,通过与海光合作,趋动科技实现了池化软件异构算力多元化,进一步满足了信创市场的应用需求。 事实上,自加入光合组织以来,趋动科技与海光等产业链上下游伙伴开展了一系列生态合作。在趋动科技看来,用户需要的是完整的解决方案,而单一厂商很难提供从底层架构到前端应用的一整套产品,在此背景下,生态力量的整合非常关键。 “光合组织为AI产业的生态对接提供了一个很好的平台。”文禹翔指出,基于光合组织大赛,趋动科技不仅与伙伴深化了产品技术合作、展示了方案成果,同时也广泛联动更多产业力量,逐渐形成生态的“飞轮”,在市场赋能、项目引进等领域逐渐跑出了加速度。 “我相信,随着飞轮的转速不断加快,未来,算力池化方案将触达更多业务应用场景,AI算力会释放出更大的价值。”文禹翔表示。 |
声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。
上一篇:文心大模型4.0问世!李彦宏:大模型带来的智能涌现,是开...
下一篇:返回列表
普通人如何迎接AI时代?在我们还停留在惊喜与纠结之际,百度已带着文心大模型4...
2023-10-17 22:28:12
未标题-1.jpg e络盟开售Littelfuse完整解决方案 e络...
2023-10-17 22:27:41
兴业银行信创版境外核心系统V3升级项目今天切换上线并营业,系统运行稳定。经全...
2023-10-17 22:20:51
登雄关、访敦煌,泰国华裔师生启“甘肃寻根”之旅 “我想走进敦煌,一步千年,...
2023-10-17 21:59:55
17日,杭州市未来先行者创新应用大会在位于杭州市余杭区的杭州未来科技城举行。...
2023-10-17 21:59:05
北京市经济和信息化局近日正式发布的《人工智能算力券实施方案(2023-202...
2023-10-17 21:35:34
10月17日,中国中车旗下的中车长春轨道客车股份有限公司(简称中车长客)与塞...
2023-10-17 21:13:59
Canalys的最新数据显示,2023年第三季度全球智能手机出货量同比下滑1...
2023-10-17 21:12:56
10月17日,以“生成未来”为主题的百度世界2023在北京召开,集中展示了百...
2023-10-17 21:08:44
记者17日从中国农业科学院深圳农业基因组研究所了解到,科研人员成功绘制了基于...
2023-10-17 21:00:06