重构云计算，打造 AI 原生期间的云计算产品与技能体系，实现 AI 零距离 ...

概述

自 ChatGPT 大模子横空出世以来，文心一言、通义千问等诸多大模子接踵而来，感觉这个世界每天都在发生着翻天覆地的变化。
本年很有幸，参与了云栖的盛宴，其时被震动到瞠目结舌，12 月 20 日百度云智能云智算大会，又给我一记重拳，这让我不由得开始重新评估 AI 与我们的距离，AIGC 的期间大概已经开始吹响冲锋的军号，而我们也应该做好充足的准备，接待新的挑战。
在此次百度智能云智算大会上，我细致的听了全程，受益匪浅，学习到许多先辈的概念，例如云智一体、智算、数据"智"理、模子即服务等。这都不由得让我感叹 AI 发展的灵敏，新的信息风暴已经在爆发的前夕，不日，必将石破天惊。
百度智能云此次地主题是"重构云计算，打造 AI 原生期间地云计算产品与技能体系"。重构这个词通常与解构并行出现，解构最早来源于海德格尔的《存在与时间》，为分解、消解、拆解、揭示等；重构是对解构的扩展和延伸，在步伐计划中所用甚广，通常意指调解代码布局，使其计划模式和架构更趋公道。
毫无疑问，在计算机的领域，这是一个非常大的词，更况且后续还附带了体系两字，这不由得让我欣喜，也让我好奇，本次大会又会有多么惊涛骇浪的创新。
重构——云原生期间

在长驱直入本次智算大会之前，我想先聊一下 AI 重构的意义。
不知道大家有没有切身实地的训练过 AI 模子，尝试过 AI 模子的部署，如果你是一个初学者，你会发现这整个过程每个步骤都会让你头痛。
作为浪漫主义和完美主义熏陶的国人，字斟句酌是我们的核心驱动力，AI 模子也是这样，我们无时无刻不试图突破 AI 模子的精度极限，做到最优、最好。在这个过程中模子参数量也在同步快速的膨胀，越来越大，大模子就这么出现了。
大模子带来了更大的计算复杂度，训练对算力以及根本设施的要求越来越高，训练所需的资源成本也随之飙升。我们不大概停下前进的脚步，那么我们就必须解决两个核心标题：如果稳固的训练模子，如何连续的降本增效。
在一次百度智能云的线上公开课中，针对于当下的 AI 的痛点标题，主要总结了亮点：

• 资源效能: 资源利用率、异构芯片调度等
  
• 工程效能：大模子落地、训练/推理任务的效率等
  

AI 工程效率低下，是当下亟待解决的核心标题。那我们又该如何优化那？
云原生，没错，云原生。
云原生 CNCF 界说：云原生是构建应用步伐一类技能的统称，通过云原生技能可以构建出可弹性扩展的应用步伐，这些应用步伐可以被运行在不同环境当中，比如公有云、私有云、混合云等新型动态环境中。
界说非常晦涩，难以理解，但我们可以从中捕捉到两个关键词：可弹性扩展和动态环境。借助云原生，应用的开发者不再必要思量底层的环境，可以实现快速部署、按需弹性扩伸缩的应用步伐。云原生 AI 则是更贴近 AI 场景的重构计划，以容器服务为核心，以云原生技能为根本架构的 AI 工程解决方案，整合云计算、存储等服务，贯穿 AI 任务的全周期。
听起来是不是有些困难，在互联网界，越是根本、越是核心的根本设施，解决方案，越是卷，百度智能云又会如何展开自己的重构之路，搭建云原生AI根本设施那？
智算期间

百舸 3.0

云原生 AI 可以帮助 AI 任务实现资源的高效利用和无缝迁移等标题，在此次百度智能云智算大会中，百度进一步重构了智算根本设施，针对大模子场景举行了专项优化。全新发布百度百舸· AI 异构计算平台 3.0，百舸 3.0 承载了百度智能云的云原生 AI，是一套专注于 AI 工程化建立，提供软硬一体的异构计算平台。
百舸 3.0 对原生 AI 应用和大模子的训练、推理等环节举行了全面、专向优化升级，可以看一组官方的参数，你就可以估量此次更新的厚重。其一最高可提升模子训、推吞吐 30% 和 60%；其二，在资源利用方面，能够实现 98% 的超高集群有效训练时间占比，95% 的网络带宽有效利用率，充实开释集群有效算力，大幅降低客户的资源与时间成本；其三，提供了一套完备的体系，包含丰富的运维和可观测工具、主动化容错保障能力等。

我们可以清晰的发现，百舸 3.0 正是针对于当下 AI 的痛点标题，做出的有效应对，百舸 3.0 构建的体系真的很巨大健全，能满足工程的所需。碰到标题，分析标题，解决标题，我相信也是整个百度智能云发展的核心思绪，致敬。
极致性价比的根本云服务

AI 应用不止必要模子、服务等软件层面的繁荣，更必要强大硬件的支持。作为 AI 应用的硬件根本设施，我认为要具备以下几点：性能高、成本低、高可靠。
百度智能云在根本设施方面做了许多努力，致力于打造极致性价比的根本云服务，也就是百度太行系列。
太行这个名字我非常喜爱，太行山脉，就彷佛有一种厚重、扎实、可靠的感觉。没错，百度太行系列也是如此。

• 百度太行 DPU（Data Processing Unit），打造了统一的高性能云原生根本设施架构，可以有效提高资源利用率，能够将 CPU、GPU 的算力资源应用满格 100%。
  
• 百度太行·计算作为高性能、高弹性、高可靠的云服务算力底座，此次推出三款全新计算实例
  
  
  
  • 提供更高效的算力服务的通用计算型云服务器实例 G7，搭载英特尔最新的第五代至强可扩展处理惩罚器，综合性能较上一代产品提升 10%。
    
  • 大模子推理场景综合性能较业界主流加速卡可提升达 50% 的 NKL5 实例，搭载了百度自研的昆仑芯 R300 加速处理惩罚器，增强了显存规格与 AI 加速处理惩罚器互联通信性能，在；
    
  • 综合性能较业界主流加速卡提升可达 40% ，使能大模子开发提速的弹性性能计算实例 NH6T，支持 3.2Tbps RDMA 高速互联带宽。
    
  
  
• 百度太行计算新一代高性能网关平台，提高网络性能，支持百度网盘、百度地图等百度生图的内网便捷访问，降低数据走漏、时延抖动的危险，大幅度降低数据传输成本和数据处理惩罚效率。
  

分布式云根本设施

云边互联是前段时间我非常关注的话题，在边沿节点上实现智能化，能有效提高数据实时性，降低数据通报走漏的风险。特殊是在一些 IOT 领域，云边互联能有效推动其发展，在这个 AIGC 灵敏发展的时期，我有时就在想，如果 AIGC 碰撞 IOT，会出现那些让人眼前一亮的改变那？
此次百度智能云智算大会，我特殊喜欢官方提出一个理念：让智算无处不在，智能无所不及(改成触手可及是否更大气一些)。这完美相应了我的智能理念，无所不在，触手可及。那么这就必要无数的端、边沿节点，共同搭建起繁荣的云边架构。
百度智能云对此也做出了诸多升级

• 边沿计算节点(雷同理解成端就行)覆盖范围扩大，智算能力升级，构建愈加完善的云边一体
  
• ABC Stack 支持本地部署百度智能云千帆大模子平台，为企业构建专属大模子按下加速键
  
• 本地计算机成 LCC 新能力发布
  

数据"智"理

这个词真的有点说到我的心坎上了，数据治理，但更要智理，这不仅是字面意思的改变，更是思维层面的超过，聪明化可以漫步我们的日常，这是一个非常振奋的进步。
对于都模子和 AI 应用，数据的存储也是至关重要的，如何高效的存、高效的取是我们必要关注的关键之一。
百度智能云敏锐的捕捉到了这一点，在云存储、云数据库等根本领域举行了一系列重磅更新，还有我最害怕的一集。

• 百度沧海·存储，又是一个很雅致的名字，海洋广阔无疆，有容乃大，沧海是百度智能云的存储的同意技能底座，支持各类存储产品，存储高性能、低成本。
  
• 云原生数据库 GaiaDB 4.0 版天性能大幅度提升，增强并行查询能力，突破单机计算瓶颈，实现跨机多核并行查询，在混合负载和实时分析业务场景中性能提升超过 10 倍。此外，通过共识协议优化、链路优化、自适应动态回放存储多版本等一些列数据流深度优化，大幅提升 GaiaDB 整体性能 60% 以上
  

还有最害怕的一集，百度智能云发布了一款数据库智能驾驶舱，通过引入大模子能力，能够实现对数据库举行主动的智能化的洞察、评估和优化。蛤？主动智能化洞察，我没听错吧。此款智能仓可以媲美专业的 DBA 水平，复杂标题回复的正确率超过 80%，我有点开始担心未来了，如果此类产品的价位比较得当，很大概可以更换部分根本的工作，再不卷，岗位都要被替代了。
模子即服务——千帆大模子平台

大模子将作为新的通用服务能力，我不由一惊，大模子都已经开始作为服务了吗，AI 距离我们真的是越来越近了。
百度智能云千帆大模子平台现在已经可以提供包罗百度文心大模子在内的、国内最多的 54 个主流根本大模子和行业大模子，还为大模子的连续预训练、精调、评估、压缩和部署等环节提供最完善易用的工具链，据官方统计，相较于自建系统训练大模子，使用千帆平台训练的成本最高可以下降 90%。
千帆平台提供一个完整、巨大的模子工具链，初次听到这消息我有些受惊，大会结束后，我连忙去官网体验了一番，没错，千帆提供了免费的体验，这点真的大大的好评。

如果日常中实践过 AI 应用，你会发现千帆把你想到的都想到了，没想到的也都实现了，它提供了一组标准化的流程，按照它的思绪走，可以省无数的功夫，这都是血淋淋的履历，盲人摸象真的会晕，会乱。
下面是千帆平台的模子广场和体验中心。

上面看到 54 个模子只是个单调的数字，当我真正看到模子的列表时，才深深的感慨百度智能云的发展，54 个大模子啊，这得多久才能调试、测试出来，它蕴涵了百度人的辛勤奋动。

体验中心可以体验对话类(Gpt)和绘画类，绘画类挺让我惊喜的，固然它只提供了 Stable diffusion XL 模子，也不支持一些微调模子，但是它给提供了 500 次免费在线的体验过程。我有好多小同伴，都想体验 AI 绘画，但是迫于环境难搭，性能不足，只能望洋兴叹。千帆平台不只为企业提供了完备的功能，还为个人开发者提供了学习和尝试的平台，更多人参与 AI 不是梦想。此外，还提供了丰富的 prompt 模板，真是不能再赞了。
千帆 AppBuilder

按照以往以我对百度的了解，百度喜欢把产品由繁化简，提高使用者的开发效率，降低开发者的使用门槛，以此来推动行业的进步。
AI 应用开发现在来看门槛还是甚高，社会的舆论以及人们的错判都是拦截当下 AI 发展的因素，AI 普适化还必要很长的路。百度智能云千帆 AppBuilder 就是一个很好的尝试，它迈出了关键的异步，该平台提供了一套基于 Web 的 AI 应用开发工具，将基于大模子开发 AI 原生应用的常见模式、工具、流程，沉淀成一个工作台，帮助开发者聚焦业务本身，而无需为开发过程牵扯多余精力，让开发者可以快速的举行 AI 应用的开发。
AppBuilder 由组件和框架构成，此中组件主要包含一些能力服务，例如笔墨识别、文生图、长文总结等；框架则是将组件按照应用所需串联起来，构建一个特定场景。现在 AppBuilder 官方提供了几个在线体验的应用，设置起来特殊简单，我乃至都感觉我并不是在开发 AI 应用，只不外在做简单的网站，AppBuilder 用起来实现太简单轻便了，我不由得有点憧憬 AI 的未来。

最后附赠一句侯震宇老师的预测，2024 年将成为 AI 原生应用的元年，迎来AI原生应用的爆发式增长。我也隐隐的感觉到，AI距离我们越来越近了，那就让我们一起跟随着百度智能云的脚步，好风依附力，送我上青云，一起见证AI的辉煌期间。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。