“据统计,GPU的匀称利用率不凌驾30%,会产生巨大的算力资源浪费。我们用软件界说的方式通常可以把用户GPU的利用率提拔3-8倍,以致可以到10倍。”
这是算力池化软件公司趋动科技援引行业陈诉数据并联合自身企业最佳实践履历给出的最新数据。通过自研的猎户座OrionX AI算力资源池化软件,趋动科技可以资助客户构建数据中心级 AI 算力资源池,客户无需修改应用就能利用数据中心内任一台服务器的 AI 算力,并通过大幅优化应用摆设,提拔用户的资源利用率,为AI产业带来全新的算力供给模式。
重新界说AI算力资源
在第二届光合构造AI办理方案大赛上,趋动科技基于与海光硬件产物底座的适配和优化,打造的“信创全栈自主可控异构AI算力资源池”(以下简称“AI算力资源池”)方案,得到了本届大赛一等奖。
趋动科技生态运营总监文禹翔先容,AI算力资源池方案重要针对当前异构算力利用方式粗放、跨厂商异构算力资源难以同一管理调理等题目。方案将物理异构算力资源举行池化管理,实现按需调理异构算力资源及跨厂商异构算力资源精致化管理。
方案架构图
方案中的根本办法层,依托于海光服务器的性能上风,可以实现两大跃升;在操纵体系层,AI算力资源池基于银河麒麟服务器操纵体系,借助海光CPU、DCU平台上风,对内核安全、RAS特性、I/O性能、假造化和国产硬件、驱动支持等方面进一步优化加强;在假造化层,趋动科技OrionX将AI算力资源抽象为假造资源,终极实现AI算力资源的软件界说。
“现在,应用摆设中资源直连独占,造成算力资源浪费和利用不机动等题目,让算力用户的本钱负担一连加重,已经在肯定水平上拦阻了AI技能的进一步大发展。我们盼望已往看起来‘阳春白雪’的算力,可以大概真正成为一种普惠大众的资源,就像水电一样按需随用随取、机动便捷且自制高效”文禹翔表现。
让生态飞轮加快旋转
迩来由人民银行主管的期刊《金融电子化》中,登载了一篇中原银行CIO署名文章题为《人工智能GPU算力资源池化应用研究》的文章。该文章具体叙述了异构算力资源池化软件在信创范畴的应用代价,进一步验证了趋动科技OrionX异构算力池化软件方案的可行性,同时也对海光加快卡等国产硬件性能给予了肯定。
“信创范畴的算力资源池建立须要链接国产软硬件厂商共同推动,海光在国产芯片行业处于领先梯队,为我们提供了很大的支持。”文禹翔表现,通过与海光相助,趋动科技实现了池化软件异构算力多元化,进一步满足了信创市场的应用需求。
究竟上,自加入光合构造以来,趋动科技与海光等产业链上鄙俚同伴开展了一系列生态相助。在趋动科技看来,用户须要的是完备的办理方案,而单一厂商很难提供从底层架构到前端应用的一整套产物,在此配景下,生态气力的整合非常关键。
“光合构造为AI产业的生态对接提供了一个很好的平台。”文禹翔指出,基于光合构造大赛,趋动科技不但与同伴深化了产物技能相助、展示了方案结果,同时也广泛联动更多产业气力,渐渐形成生态的“飞轮”,在市场赋能、项目引进等范畴渐渐跑出了加快率。
“我信赖,随着飞轮的转速不绝加快,未来,算力池化方案将触达更多业务应用场景,AI算力会开释出更大的代价。”文禹翔表现。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!qidao123.com:ToB企服之家,中国第一个企服评测及软件市场,开放入驻,技术点评得现金 |