XSKY CTO 在英特尔存储技术峰会的演讲：LLM 存储，架构至关重要
5 月 17 日，英特尔存储技术峰会在北京顺遂举行。作为英特尔恒久的相助伙伴，星辰天合受邀到场了此次峰会。星辰天合 CTO 王豪迈作为特邀嘉宾之一，作了主题为《LLM 存储：架构至关重要》的演讲，分享了大语言模型（LLM）对存储的需求以及现有存储架构的局限与挑衅，与来自阿里云、英特尔等公司的诸位业界专家共同探讨了人工智能时代存储体系的发展愿景与技术趋势。https://img-blog.csdnimg.cn/img_convert/5bd4212ff29d54d5eb9b0a39963420f2.jpeg
人工智能时代的存储体系技术趋势
大模型时代企业竞争的核心要素就是数据，在数据处理和流畅的过程中，数据存储是不可或缺的重要一环，而高效可靠的存储体系将成为人工智能的重要底座。
此次英特尔存储技术峰会，英特尔邀请了业界相助伙伴、专家等深度探讨了人工智能时代存储体系的发展愿景和技术趋势，包罗怎样发挥高性能存储介质的性能、怎样使用新一代互联技术重构存储体系、怎样进行下一代存储软件体系创新等等，旨在通过多方协作，为客户构建拥有极致性能、安全可靠、高可扩展性和高能效的新一代存储体系。
XSKY 主题演讲：LLM 存储，架构至关重要
在 XSKY 主题演讲环节，XSKY CTO 王豪迈首先介绍了 CPU 和 GPU 在处理大规模 AI 应用中的不同体现。CPU 内存体系优化了低延迟和深度缓存层次结构，得当处理延迟敏感的代码，例如链表操作。相比之下，GPU 内存体系则优化了高吞吐量和高带宽缓存，更得当数据和数学麋集型代码，例如向量归约。为此，高带宽存储（HBM）成为解决存储瓶颈的关键技术之一，它可以或许显著提升存储体系的性能，从而满意未来高性能计算和 AI 应用的需求。
王豪迈指出，HBM 是存储转型的驱动力。在大模型训练中，存储体系需要处理的大量数据写入，这使得存储写带宽成为决定性能竞争力的关键因素。特别是在多模态场景中，大量小文件的处理对底层存储性能是一个重大挑衅。
https://img-blog.csdnimg.cn/img_convert/c8e20399a5eda385d5f2c5ba638e3c84.jpeg
现有的传统 NAS 存储架构以及并行文件体系架构，都有对应优势和顺应场景，但是都存在一些架构的限定，使得在一些问题上应对困难，好比在大语言模型的场景下，前者会遭遇写放大的严酷挑衅，而后者在应对多模态场景中的海量小文件时，大概会遇到性能不足的问题。
https://img-blog.csdnimg.cn/img_convert/d763af9fd90ef23a2101300a6cd0fe08.jpeg 王豪迈表示，星辰天合最新发布的 XSEA（eXtreme Shared-Everything Architecture，极速全共享架构）将是应对大语言模型存储需求的抱负架构，它由于接纳了全共享架构，因此在针对慢盘、亚康健网络问题时，能在 100 毫秒内快速切换，以包管体系的稳固运行；由于接纳了单层 SSD 架构，可以借助 QAT 加速数据压缩/解压缩的强大能力，接纳大规模的 EC+压缩，从而实现 100%的存储空间使用率；也由于接纳了端到端的 NVME，因此可以或许实现 100 微秒的低延迟。
https://img-blog.csdnimg.cn/img_convert/41851c2677bda6962a42cfa7abf0bbaf.jpeg
此外，基于 XSEA、针对大语言模型存储需求，在即将发布的新产品中，星辰天合将会通过全局 EC 和数据压缩技术，实现写放大的 100%低落，提升存储服从。
XSKY 在存储架构上的这些关键技术创新，不仅减少了写放大效应，还显著提高了存储带宽使用率和团体性能，可以更好应对大语言模型对底层存储的挑衅。
预测未来，王豪迈表示，随着 AI 技术的发展，存储体系需要处理的数据量和复杂度将不断增加，优化存储带宽和改进存储技术是应对这些需求的关键，XSKY 将继承致力于存储技术的研发，通过架构创新和不断的技术迭代和优化，为客户提供更高效、更可靠的存储解决方案。
他特别强调了 HBM 技术在这一过程中的核心作用。通过优化 HBM 技术，可以大幅提升存储体系的性能，以应对未来高性能计算和 AI 应用的需求。他以为，只有通过持续的技术创新和架构优化，才能在快速发展的 AI 和大数据时代保持竞争优势。
联手英特尔 持续推动存储架构创新
作为领先的专业软件界说存储企业，星辰天合致力于与芯片、操作体系、数据库、人工智能等上卑鄙企业相助，以持续推动存储架构的创新。 作为英特尔的恒久相助伙伴，星辰天合始终紧跟英特尔的技术发展进行创新和研发。在星辰天合近来发布的新一代全闪分布式存储体系 星飞 XINFINI 9000 中，就接纳了英特尔 QAT 加速数据压缩/解压缩，从而大幅度提升存储体系性能，在低落了高吞吐情况下的读写时延的同时，也减少了存储软件栈中各历程的资源争用以及相互间的影响。 借助英特尔存储技术峰会这样的技术交换平台，星辰天合将会与英特尔以及更多相助伙伴，围绕人工智能、大语言模型等新生应用的存储需求，基于当前及未来的英特尔至强可扩展处理器的能力，进行进一步探索， 通过创新的软硬件组合进一步发挥分布式全闪存储的性能潜力，支撑共同的客户从数据中得到更多、更富价值的洞察 。
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]