|
12月20日，2023百度云智大会·智算大会在北京举行，大会以「大模子重构云盘算，Cloud for AI」为主题，深度聚焦大模子引发的云盘算变革。
百度智能云表现，为满足大模子落地需求，正在基于「云智一体」战略重构云盘算服务，现在已完成从底层基础设施—大模子开发与应用—AI原生应用开发的端到端升级重构：全面升级百舸等20多个云盘算基础设施、千帆大模子平台再升级、AI原生应用开发工作台“千帆AppBuilder ”全面开放。
智算大会现场，百度智能云还公布了最新“成绩单”。自8月31日文心大模子向全社会全面开放以来，在千帆大模子平台上，大模子API日调用量增长10倍。现在千帆平台已经累计服务超过4万家企业用户，累计资助企业用户精调近1万个大模子。相较于自建体系练习大模子，使用千帆平台练习的本钱最高可以下降90%。
大模子正在重构云盘算
“AI原生期间开启，大模子正在驱动云盘算产业创新变革。”百度团体副总裁侯震宇表现：“大模子重构云盘算重要表现在三个层面：AI原生云将改变云盘算的格局，模子即服务（MaaS ）会成为新的基础服务，AI原生应用催生新的研发范式 。”
首先，在云基础设施层，移动互联网期间的应用，底层大多依赖CPU算力，而AI应用对GPU或异构盘算的需求大幅增长，云市场的底层算力需求将逐渐转向以GPU为主。
其次，在模子层，大模子正在成为通用的服务能力，即MaaS。MaaS将大幅降低Al落地的门槛，实现真正的Al普惠。
最后，在应用层，应用开发的范式已经被彻底颠覆。大模子理解、天生、逻辑、记忆的独特能力会催生A原生应用研发新范式，整个应用技能栈、数据流和业务流都将被改变。
百度团体副总裁侯震宇
侯震宇表现，总体来说，构建繁荣的A原生应用生态，须要大模子、智能算力、AI原生应用研发新范式三要素相辅相成。大模子是AI原生应用的“大脑”，智能盘算则为A原生应用运行提供坚实支持，新研发范式助力开发者高效基于大模子能力开发应用。数据飞轮是乐成的AI原生应用的充实须要条件，让大模子能力高速迭代，产物体验持续进步。
云盘算全面升级：五大领域20余款全栈产物集中发布
AI原生期间，面向大模子的云盘算基础设施体系将全面重构。侯震宇表现，百度智能云将在三大方面重构云盘算服务，即：面向模子的智算基础设施、面向数据的数据基础设施、面向应用的云基础设施，以支持AI原生应用落地。
大会现场，百度智能云麋集发布和升级了20多款云盘算产物，涵盖智能盘算、通用盘算、数据库和大数据、分布式云、应用开发平台五大领域。
在智能盘算领域，算力是大模子落地的基础条件，当前大模子练习、推理、部署对高速互联、盘算效率、算力本钱等都提出了高要求，须要打造新型的智算基础设施。但现在的盘算集群还面对不少挑衅，大模子练习时间长、易出错、稳定性差，算力集群规模大、体系复杂度高也增长了运维难度。
全新发布的百度百舸·AI异构盘算平台3.0，针对AI原生应用以及大模子的练习、推理等环节进行了专项优化。百舸3.0在稳定、高效、易运维三个方面大幅升级产物能力，实现万卡级别任务有效练习时长到达98%以上，带宽有效性可达 95%。相比自建智算基础设施，可以实现模子训、推吞吐分别最高提拔30%和60% 。
百度百舸3.0发布
针对AI原生期间智能算力的供给平衡问题，百度智能云发布智算网络平台。在算力资源层面，智算网络平台支持将百度及第三方建设的智算中心、超算中心、边缘节点等智算节点进行全域接入，将分散和异构的算力资源毗连起来，形成同一的算力网络资源池，再通过百度自主研发的算力调度算法，智能分析各类算力资源的状态、性能和使用率等指标，同一调度算力，让智算资源灵活、稳定、高效地交付给有需求的用户，实现智算资源的“南水北调”。
在通用盘算领域，盘算、存储、网络等云原生基础设施也须要面向AI原生期间重构升级，提供更具弹性、高性能和智能化的运维能力。
本次大会，百度太行·盘算新增了三款盘算实例：全新推出第7代（通用盘算型）云服务器实例G7，综合性能较上一代产物提拔10%；发布昆仑芯弹性裸金属实例NKL5，搭载了百度自研的昆仑芯R300加快处理处罚器，在大模子推理场景综合性能较业界主流加快卡可提拔达50%；发布基于昇腾910B加快处理处罚器打造的弹性高性能盘算实例NH6T，在大模子练习场景中，综合性能较业界主流加快卡提拔可达40%。
同时，高性能盘算平台CHPC（Cloud HPC）正式发布，为用户提供的一站式公共云 HPC 服务。在资源使用层面，CHPC支持用户一键创建高性能盘算情况，并根据业务变革灵活使用云上资源；在业务应用层面，CHPC支持集成药物研发、基因测序等行业的应用。此外，团结集成在 VPC 内的百度网盘等服务，用户可以轻松实现HPC源文件从提交、上传、处理处罚、效果回传，到分发的数据全链路买通，助力研发提效。
在分布式云方面，百度智能云带来三大升级：边缘盘算节点BEC产物能力升级，打造全球同一的边缘盘算网络和产物体验，打造AI原生应用期间能力最完善的“云边一体”；专有云ABC Stack新能力发布，支持当地部署百度智能云千帆大模子平台；本土地算集群LCC新能力发布，支持全新一代CPU/GPU实例以及完备的百度智能云AI&HPC集群管理能力，进一步丰富完善基础设施与云产物支持能力矩阵。
大模子落地不但须要算力支持，还须要对各类数据和海量的知识进行存储、管理和分析工作。百度智能云在云存储、云原生数据库、大数据平台等数据基础设施领域发布了一系列重磅新品。
百度沧海·存储，同一技能底座正式发布，可以或许支持各类存储产物，同时满足AI原生期间的大规模、高性能、低本钱的存储要求。全新升级的对象存储BOS、云磁盘CDS、并行文件存储PFS等产物，面向数据湖存储和AI存储能力进行了全面加强，加快智能盘算，开释数据代价。
云原生数据库GaiaDB 4.0版本正式发布，加强并行查询能力，突破单机盘算瓶颈，实现跨机多核并行查询，在混淆负载和实时分析业务场景中性能提拔超过10倍；针对不同的工作负载推出列存索引和列存引擎，提拔不同规模数据的查询速率，此中列存引擎最大可支持 PB 级数据的复杂分析，而且与变乱处理处罚业务严酷复杂隔离；通过共识协议优化、链路优化、自顺应动态回放存储多版本等一些列数据流深度优化，大幅提拔GaiaDB整体性能60%以上。
大会期间，杭州祥瑞易云科技有限公司总经理制品耀，分享了祥瑞团体携手百度智能云的打造团体专有云，打造数字基建底座。现在祥瑞团体已实现车联网、生产制造业务上云，且正在基于这套高效、稳定的基础设施平台构建企业级AI大模子能力，全方位赋能团体业务。
模子即服务（MaaS）：千帆大模子平台再升级
在AI原生期间，大模子将作为新的通用服务能力，由模子即服务（MaaS）平台提供给广大用户。百度智能云千帆大模子平台（以下简称“千帆平台”）作为业界领先的MaaS服务平台，预置了包括百度文心大模子在内的、国内最多的54个主流基础大模子和行业大模子，还为大模子的持续预练习、精调、评估、压缩和部署等环节提供最完善易用的工具链，资助客户针对自身业务场景快速定制专属大模子。相较于自建体系练习大模子，使用千帆平台练习的本钱最高可以下降90%。
百度智能云千帆大模子平台
现在，千帆平台已经累计服务超过40000家企业用户，精调近10000个大模子。本次智算大会，针对客户应用大模子最关心的“提效”和“降本”两大核心诉求，千帆平台发布一系列全新功能。
在数据方面，千帆平台提供完善、高效的大模子数据管理工具链，包括数据采集，洗濯、自动标注、自动加强与推理数据多位评估等功能，助力用户快速构建自身业务“数据飞轮”，实现反馈驱动增长。全新发布的数据统计分析、数据质量查抄等功能，支持用户获取全方位的数据洞察信息，团结数据洗濯可视化Pipeline，可以或许构建出面向大模子场景的高质量数据燃料，为大模子练习“保驾护航”，千帆也因此成为国内首个支持大模子多方位数据分析的MaaS服务平台。
作为模子部署上线前的“最后一公里”，模子评估可以或许对大模子的输出效果、盘算性能等进行全方位评估，确保大模子上线后AI原生应用的效果稳定可靠。千帆平台创新性地引入自动化与人工团结的双重评估机制，充实发挥双方优势，大幅提拔模子评估效率与质量。一方面，百度文心大模子作为AI裁判员，可以或许对被评估模子的回答进行自动化打分，极洪流平地淘汰海量重复性人工作业；另一方面，由数据标注员/业务专家对大模子回答进行打分，则可以或许实现对大模子回答质量的精细化衡量。
此外，千帆平台灵活的计价方式，如Tokens（适用灵活性要求较高的业务）、TPM（Tokens per Minute，适用于较大并发量业务）、批量盘算（适用于离线内容生产等对实时性要求较低，吞吐较大的任务）、算力单元（适用于须要专享硬件部署模子的客户）等，可以轻松满足客户的多种业务场景须要，助力企业低本钱用好大模子。
赋能AI原生应用开发：千帆AppBuilder正式开放服务
为了满足企业敏捷、高效地进行AI原生应用开发的需求，降低AI原生应用开发门槛，百度智能云千帆AppBuilder正式开放服务。
AppBuilder将大模子开发AI原生应用的常见模式、工具、流程，沉淀成一个工作台，资助开发者聚焦业务自己，而无需为开发过程扳连多余精神。具体来讲，AppBuilder重要由组件、框架两层服务构成。
「组件」服务由多模态的AI能力组件（如文字识别、文生图等）、基于大语言模子的能力组件（如长文总结、nl2sql等）、基础组件（如向量数据库、对象存储等）三部门构成，是对底层服务能力的组件化封装，让每个组件完成一个特定的功能。
「框架」则是通过将上述这些组件有选择地串联、组合起来，让它们可以或许比较完备地完成一个特定场景的任务。现在，AppBuilder提供的检索加强天生（RAG）、智能体（Agent）、智能数据分析（GBI）就是常用的AI原生应用框架。
AppBuilder提供两种产物形态，代码态与低代码态。对于有深度AI原生应用开发需求的用户，AppBuilder代码态提供包括SDK、开发情况、调试工具、应用示例代码等各种开发套件和应用组件；而AppBuilder低码态则提供可视化工具，用户只需简单点选，即可快速定制、上线AI原生应用。
百度智能云千帆AppBuilder
百度首创人、董事长兼首席执行官李彦宏以为，繁荣的AI原生应用生态，会驱动经济增长。今年10月，百度智能云推出了国内首个大模子全链路生态支持体系，为互助伙伴提供包括赋能培训、AI原生应用孵化、贩卖商机、市场营销等全方位的支持，致力于繁荣AI原生应用生态。
侯震宇预判，2024年将成为AI原生应用的元年，迎来AI原生应用的爆发式增长。百度智能云将持续推出有竞争力的产物方案，与伙伴一起深耕客户应用场景，让更多的AI原生应用创新涌现。
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。 | 
