标题: 重构云计算，打造 AI 原生期间的云计算产品与技能体系，实现 AI 零距离 [打印本页] 作者: 缠丝猫 时间: 2024-6-9 13:32 标题: 重构云计算，打造 AI 原生期间的云计算产品与技能体系，实现 AI 零距离 概述
自 ChatGPT 大模子横空出世以来，文心一言、通义千问等诸多大模子接踵而来，感觉这个世界每天都在发生着翻天覆地的变化。
本年很有幸，参与了云栖的盛宴，其时被震动到瞠目结舌，12 月 20 日百度云智能云智算大会，又给我一记重拳，这让我不由得开始重新评估 AI 与我们的距离，AIGC 的期间大概已经开始吹响冲锋的军号，而我们也应该做好充足的准备，接待新的挑战。
在此次百度智能云智算大会上，我细致的听了全程，受益匪浅，学习到许多先辈的概念，例如云智一体、智算、数据"智"理、模子即服务等。这都不由得让我感叹 AI 发展的灵敏，新的信息风暴已经在爆发的前夕，不日，必将石破天惊。
百度智能云此次地主题是"重构云计算，打造 AI 原生期间地云计算产品与技能体系"。重构这个词通常与解构并行出现，解构最早来源于海德格尔的《存在与时间》，为分解、消解、拆解、揭示等；重构是对解构的扩展和延伸，在步伐计划中所用甚广，通常意指调解代码布局，使其计划模式和架构更趋公道。
毫无疑问，在计算机的领域，这是一个非常大的词，更况且后续还附带了体系两字，这不由得让我欣喜，也让我好奇，本次大会又会有多么惊涛骇浪的创新。
重构——云原生期间
在长驱直入本次智算大会之前，我想先聊一下 AI 重构的意义。
不知道大家有没有切身实地的训练过 AI 模子，尝试过 AI 模子的部署，如果你是一个初学者，你会发现这整个过程每个步骤都会让你头痛。
作为浪漫主义和完美主义熏陶的国人，字斟句酌是我们的核心驱动力，AI 模子也是这样，我们无时无刻不试图突破 AI 模子的精度极限，做到最优、最好。在这个过程中模子参数量也在同步快速的膨胀，越来越大，大模子就这么出现了。
大模子带来了更大的计算复杂度，训练对算力以及根本设施的要求越来越高，训练所需的资源成本也随之飙升。我们不大概停下前进的脚步，那么我们就必须解决两个核心标题：如果稳固的训练模子，如何连续的降本增效。
在一次百度智能云的线上公开课中，针对于当下的 AI 的痛点标题，主要总结了亮点：
资源效能: 资源利用率、异构芯片调度等
工程效能：大模子落地、训练/推理任务的效率等
AI 工程效率低下，是当下亟待解决的核心标题。那我们又该如何优化那？
云原生，没错，云原生。
云原生 CNCF 界说：云原生是构建应用步伐一类技能的统称，通过云原生技能可以构建出可弹性扩展的应用步伐，这些应用步伐可以被运行在不同环境当中，比如公有云、私有云、混合云等新型动态环境中。
界说非常晦涩，难以理解，但我们可以从中捕捉到两个关键词：可弹性扩展和动态环境。借助云原生，应用的开发者不再必要思量底层的环境，可以实现快速部署、按需弹性扩伸缩的应用步伐。云原生 AI 则是更贴近 AI 场景的重构计划，以容器服务为核心，以云原生技能为根本架构的 AI 工程解决方案，整合云计算、存储等服务，贯穿 AI 任务的全周期。
听起来是不是有些困难，在互联网界，越是根本、越是核心的根本设施，解决方案，越是卷，百度智能云又会如何展开自己的重构之路，搭建云原生AI根本设施那？
智算期间
百舸 3.0
云原生 AI 可以帮助 AI 任务实现资源的高效利用和无缝迁移等标题，在此次百度智能云智算大会中，百度进一步重构了智算根本设施，针对大模子场景举行了专项优化。全新发布百度百舸· AI 异构计算平台 3.0，百舸 3.0 承载了百度智能云的云原生 AI，是一套专注于 AI 工程化建立，提供软硬一体的异构计算平台。
百舸 3.0 对原生 AI 应用和大模子的训练、推理等环节举行了全面、专向优化升级，可以看一组官方的参数，你就可以估量此次更新的厚重。其一最高可提升模子训、推吞吐 30% 和 60%；其二，在资源利用方面，能够实现 98% 的超高集群有效训练时间占比，95% 的网络带宽有效利用率，充实开释集群有效算力，大幅降低客户的资源与时间成本；其三，提供了一套完备的体系，包含丰富的运维和可观测工具、主动化容错保障能力等。
我们可以清晰的发现，百舸 3.0 正是针对于当下 AI 的痛点标题，做出的有效应对，百舸 3.0 构建的体系真的很巨大健全，能满足工程的所需。碰到标题，分析标题，解决标题，我相信也是整个百度智能云发展的核心思绪，致敬。
极致性价比的根本云服务
AI 应用不止必要模子、服务等软件层面的繁荣，更必要强大硬件的支持。作为 AI 应用的硬件根本设施，我认为要具备以下几点：性能高、成本低、高可靠。
百度智能云在根本设施方面做了许多努力，致力于打造极致性价比的根本云服务，也就是百度太行系列。
太行这个名字我非常喜爱，太行山脉，就彷佛有一种厚重、扎实、可靠的感觉。没错，百度太行系列也是如此。
这个词真的有点说到我的心坎上了，数据治理，但更要智理，这不仅是字面意思的改变，更是思维层面的超过，聪明化可以漫步我们的日常，这是一个非常振奋的进步。
对于都模子和 AI 应用，数据的存储也是至关重要的，如何高效的存、高效的取是我们必要关注的关键之一。
百度智能云敏锐的捕捉到了这一点，在云存储、云数据库等根本领域举行了一系列重磅更新，还有我最害怕的一集。
体验中心可以体验对话类(Gpt)和绘画类，绘画类挺让我惊喜的，固然它只提供了 Stable diffusion XL 模子，也不支持一些微调模子，但是它给提供了 500 次免费在线的体验过程。我有好多小同伴，都想体验 AI 绘画，但是迫于环境难搭，性能不足，只能望洋兴叹。千帆平台不只为企业提供了完备的功能，还为个人开发者提供了学习和尝试的平台，更多人参与 AI 不是梦想。此外，还提供了丰富的 prompt 模板，真是不能再赞了。
千帆 AppBuilder
按照以往以我对百度的了解，百度喜欢把产品由繁化简，提高使用者的开发效率，降低开发者的使用门槛，以此来推动行业的进步。
AI 应用开发现在来看门槛还是甚高，社会的舆论以及人们的错判都是拦截当下 AI 发展的因素，AI 普适化还必要很长的路。百度智能云千帆 AppBuilder 就是一个很好的尝试，它迈出了关键的异步，该平台提供了一套基于 Web 的 AI 应用开发工具，将基于大模子开发 AI 原生应用的常见模式、工具、流程，沉淀成一个工作台，帮助开发者聚焦业务本身，而无需为开发过程牵扯多余精力，让开发者可以快速的举行 AI 应用的开发。
AppBuilder 由组件和框架构成，此中组件主要包含一些能力服务，例如笔墨识别、文生图、长文总结等；框架则是将组件按照应用所需串联起来，构建一个特定场景。现在 AppBuilder 官方提供了几个在线体验的应用，设置起来特殊简单，我乃至都感觉我并不是在开发 AI 应用，只不外在做简单的网站，AppBuilder 用起来实现太简单轻便了，我不由得有点憧憬 AI 的未来。
最后附赠一句侯震宇老师的预测，2024 年将成为 AI 原生应用的元年，迎来AI原生应用的爆发式增长。我也隐隐的感觉到，AI距离我们越来越近了，那就让我们一起跟随着百度智能云的脚步，好风依附力，送我上青云，一起见证AI的辉煌期间。
