百度沈抖：传统云盘算不再是主角，智能盘算呼唤新一代“利用系统” ...

Create 2024 百度AI开发者大会

4月16日，Create 2024 百度AI开发者大会在深圳召开。期间，百度集团实行副总裁、百度智能云奇迹群总裁沈抖正式发布新一代智能盘算利用系统——万源，通过对AI原生时代的智能盘算平台进行抽象与封装设计，为用户屏蔽掉云原生系统与异构算力的复杂性，提升AI原生应用开发效率与体验。
沈抖表示，随着大模子技术的不停演进，通过自然语言进行编程正在成为实际。编程将不再面向过程或者面向对象，而是面向需求；编程的过程将成为开发者表达愿望的过程，并为利用系统带来革命性的变革。在利用系统的内核中，底层硬件从以CPU算力为主变成以GPU算力为主，而且新增了被大模子压缩的天下知识。利用系统管理的对象发生了本质的变革，从管理进程、管理微服务，进化为管理智能。

“传统的云盘算系统依然紧张，但不再是主角，我们必要一个全新的利用系统，对新的盘算平台，也就是智能盘算做好抽象和封装，重新定义人机交互，为开发者提供更简朴、更流畅的开发体验。”沈抖如是说。

万源发布

本次大会上，百度智能云全新推出的“万源”智能盘算利用系统，旨在“桥接”算力效能与应用创新。具体来讲，万源主要由Kernel（内核）、Shell（外壳）、Toolkit（工具）三层构成，底层屏蔽掉云原生系统与异构算力的复杂性，上层则为AI原生应用的灵敏开发提供支撑与保障。
首先，在内核层，在算力资源管理方面，百度百舸·AI异构盘算平台针对大模子训练、推理等任务，对智算集群的设计、调度、容错等环节进行了专项优化。现在，百舸能够实现万卡集群上的模子有效训练时长占比超过98.8%，线性加速比、带宽有效性分别高达95%，算力效能业界领先。
此外，百舸还兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国表里主流AI芯片，支持用户以最小代价完成算力适配。相比模子推理，“一云多芯”在模子训练场景中是极难攻坚的难题，主要包罗两类细分场景：
1、智算集群中存在多个训练任务，单一厂商芯片只服务单一任务；
2、在每个独立的模子训练任务中同时利用差别厂商芯片。这就必要办理差别厂商芯片算力匀称切分、芯片间通讯效率优化等问题，难度极高。

现在，百舸已经实现了单一训练任务下差别厂商芯片的混合训练，且百卡规模性能损失不超过3%，千卡规模性能损失不超过5%，业界领先。最大水平上屏蔽硬件之间差异，资助用户摆脱单一芯片的依赖，实现更优成本，打造更具弹性的供应链体系。
万源内核中的另一个紧张组成部分是大模子。大模子能够将巨量的天下知识进行高效压缩，并将自然语言的理解、生成、逻辑、记忆本领进行封装。现在，万源内核中既包罗了业界领先的ERNIE 4.0、ERNIE 3.5大语言模子，也包罗ERNIE Speed/Lite/Tiny等轻量级模子、文心视觉大模子和各具特色的第三方大模子，充实满足用户在差别业务场景下的多样化需求。
在内核层之上是Shell层，通过百度智能云千帆ModelBuilder办理内核中模子的管理、调度、二次开发等问题，屏蔽掉模子开发的复杂性，资助更多人只投入少量的数据、资源和精力，就能快速精调出适合自己业务的模子。同时，在实际应用中，ModelBuidler提供的模子路由服务，能够主动为差别难度的任务选择合适参数规模的模子，给出平衡效果与成本的最优模子组合。经测算，在模子效果基本持平的环境下，模子路由匀称低落推理成本多达30%！
在Shell层之上，千帆AppBuilder和AgentBuilder共同构成了工具层，为开发者提供强盛的AI原生应用开发本领。尤其是AppBuilder提供的工作流编排功能，支持开发者利用预置的模板和组件，轻松定制自己的业务流程，还能够集成、扩建自己的特色组件，在差别节点上选用适合的模子，通过灵活的编排实现业务逻辑。
在AppBuilder上开发AI原生应用的过程中，还可以直接调用通过ModelBuilder精调过的模子，让整个开发过程变得极为流畅和便捷。在应用开发完成后，可以一键发布到百度搜索、微信公众号等平台，也可以通过API或SDK的方式直接集成到用户自己的系统中，真正做到极速开发、轻松上市。
写在最后

万源作为开放的利用系统，未来还将进一步开放生态合作，为应用开发者提供更多本领和接口；助力企业打造专属的垂直行业利用系统；将万源部署在客户自有智算中心，提供稳定、安全、高效的智能盘算平台服务；适配更多厂商异构芯片并发挥其最大效能。
当前，大模子技术与AI原生应用正在促使云服务向以AI为核心的新一代智能盘算利用系统方向发展，这一趋势不仅反映了技术发展的内在逻辑，也体现了市场需求的强劲推力，并开启一个由AI驱动的极新的智能云时代。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。