ToB企服应用市场:ToB评测及商务社交产业平台

标题: 顺势而为or从此落寞？大模型/Agent期间云计算有哪些时机？ [打印本页]

作者: 络腮胡菲菲 时间: 2024-6-14 23:22
标题: 顺势而为or从此落寞？大模型/Agent期间云计算有哪些时机？

大模型/Agent为主的生成式AI风生水起，火了多年的云计算遭受新的挑战和冲击，变则生辉、不变则生灰。
先说结论，任何一项主流新技能的发展都可能会碾压之前的方案，但我们要把握新技能顺势而为！

re:Invent和百度智算大会刚刚落幕，除了持续发布生成式AI相关产物，还提出了新的观点：重构云计算。AWS是云计算的初创者和领导者，发布了那么多生成式AI的内容，但也是基于云计算平台的服务，人工智能和云计算有机融合、相互促进，也像百度智算大会中提到的“Cloud for AI”，围绕人工智能的云计算，显然人工智能已经开始在重构云计算。
Let's 构！
Let's 重构！

00 重构云计算

AWS re:Invent、百度智算大会都在提重构云计算，的确现在最火的就是大模型了，让开发者和企业都有进城的感觉，似乎20年前互联网期间到来如许新颖的感觉。互联网作育了很多传奇与神话，现在大模型的到来也给了我们更多等待，都觉着这是新的时机，不上车就会落后。

有人说大模型会重塑互联网期间的全部内容，包罗对云计算的重构。狭义的云计算还是IaaS和PaaS层的资源层技能服务，广义上的云计算包罗了SaaS应用、生态同伴以及视频云、低代码、大数据、大模型及人工智能等最新技能的综合服务，广义云计算几乎等同于IT（Information Technolege）了。
Martin Flower在《重构改善既有代码的计划》一书中介绍了代码怎样进行重构，代码为什么要重构呢，因为有很多Bad Smell（坏味道），思想鉴戒到云计算中同样实用，在大模型期间云计算对用户提供的服务的过程中有了新的需求、也出现了Bad Smell，包罗企业和开发者能使用到的计算能力不足、大模型训练推理精调中对存储和网络新的挑战、现有云计算安全合规体系必要适配大模型的应用、对本钱的考虑不能仅范围于云底层资源......

re:Invent 中国行北京站

百度智算大会
大模型对云计算的重构分为三层
顶层，应用服务层
  基于场景、匹配需求、办理痛点的各类使用了大模型、云计算等技能的应用，以办理实际问题为导向的应用服务。
  中层，工具平台层
  顶层应用服务开发是基于AI工具平台，而不再是直接基于云计算开发，不但是云计算原生应用而是AI原生应用。
  底层，底子服务层
  云计算能力下沉到底层，云计算不但仅是资源，更是支撑中层AI工具平台的各种组件和服务。
  01 底层：底子服务层

云计算能力下沉到底子资源及底子组件

大模型应用期间必要更多的算力，很多人认为大模型期间的算力由CPU转为了GPU，实在我的理解是从之前CPU为主转为了异构融合计算，在实际应用落地过程中很难使用单一类型的资源用于模型训练、在线服务、其他底子服务，不同类型的应用可以由不同资源类型提供，而且现在存在单一GPU卡型不足等环境，部门厂商也在往自研芯片方向演进，所以有哪些资源就用哪些资源是更贴合实际的环境，算力会长期维持在异构融合计算的阶段。
底层资源必要更多新的功能和产物，比如之前没有需求的向量数据库现在成为了必不可少的底子能力，大模型以及上层应用也必要底层的计算、网络、存储、安全的底座能力，云计算的各个产物有必要围绕AI进行重构，“以满足AI使用场景为产物成熟度的一部门”也正在成为毕竟。
现在正是大模型风口，不少人有“不计本钱的创新”的想法，也许没错，不外对于企业落地应用就要考虑本钱了，不但仅是云计算资源的本钱，更是围绕大模型和AI重构应用的显性本钱和隐性本钱。
安全合规一直都是云计算不可或缺的模块，在生成式AI期间内容生产者变成了开发者以及AI，大模型必要提供更精准的能力就必要有数量充足多、质量充足高的数据进行训练，高质量的数据肯定是用户数据，但显然不能使用用户数据进行训练，怎样保障用户数据真正没有被训练使用而且大模型还能够获取到高质量的训练数据，也正是当前各企业和开发者正在努力实现的方向。

02 中层：工具平台层

重构新增工具化平台，上承应用、下承底层能力

传统模式是基于云计算构建应用，颠末重构后，我们基于大模型相关各类工具和平台进行开发，使用已有的性价比高和场景匹配的大模型、基于大模型和服务托管平台、通过社区集成更多周边应用工具等等。
2.1 大模型

“白模大战”真的不夸张，很多企业和开发者不一定人手一个大模型，但肯定必要基于大模型进行应用，大模型也会像云计算如许由少数几家公司提供、其他更多公司和开发者围绕生态共建大模型期间。
零一万物官网

百度智算大会

2.2 大模型平台

百度千帆大模型平台

阿里云百炼

智源

ModeScape魔搭

开放传神 OpenCSG

华为云 AI Gallery 百模千态社区

2.3 应用与模型发布托管平台

Amazon Bedrock

OpenCSG StarChain

ModeScope 魔搭

百度千帆大模型平台

03 上层：应用服务层

之前基于云计算开发应用，重构为基于AI开发应用

上层应用和服务不再全部基于云计算能力了，更重要的是基于AI、大模型以及相关生态开发的应用，很多人也称为AI原生应用。现在已经有非常多好用的工具，比如写文案、生成海报、生成PPT等等，不外还必要团结人们生存工作实际需求痛点来构建合适的应用和服务。
3.1 代码辅助工具

开发者基于大模型推出的创新工具先便利了开发者，使用前觉着这些工具也没啥作用，使用后感觉离不开了。

Amazon CodeWhisperer
体验总结：技能布道 | 阿里云通义灵码来辅助编程，根据代码生成解释岂不空想成真

阿里云通义灵码
体验总结：技能布道 | 阿里云通义灵码来辅助编程，根据代码生成解释岂不空想成真

Azure Copilot

3.2 发布自己的服务

企业和开发者发布自己的应用和服务，自助式的在当地或云端摆设，大概直接由应用平台托管模型和在线推理等服务，能够更便捷的调用多个模型和应用，也无需负责底层资源稳固、扩缩容、运维等问题。前面在工具平台层提到的几个模型平台也都提供了在线服务托管的能力，在工具平台层的重点是提供的摆设能力，在应用服务层关注的是应用服务自己。
基于百度千帆大模型平台

3.3 基于应用场景构建服务

百模千态非常正确的展示了当前层出不穷的各类应用构建出来，包罗前面的代码辅助类、写文案、根据关键词生成整个PPT、生成海报、学习课程问答......应用非常多，还必要颠末期间和实践的证明，全部应用都要围绕办理人们生存工作中的需求和痛点来打造，而且必要能够追齐传统模式应用方式才能得到更多使用。
百度智算大会 | 打造企业文档问允许用、通过AI筛选简历
视频链接：https://bj.bcebos.com/v1/dataset-bj/platform-guangwang/appBuilder/抖发布工作台.mp4

百度AI原生应用市肆

大模型在多行业中的详细应用案例

总结：重构云端

大模型风靡正当时，2024年还会有加剧对云计算和互联网的重构，有了雏形还需时日进行历练。大模型和生成式AI不是检索已有内容、而是生成未知内容，正如如许，信赖也会带来更多惊喜。
就像传统物理和现代物理一样，传统物理基于牛顿三大定律颠末几百年发展已经演变的相当完善，而爱因斯坦相对论的提出颠覆传统并成为引领现代物理发展的里程碑。云计算颠末17年的发展和应用已经变得很完善，不外大模型、生成式AI的产生又为云计算提出了新的发展方向，云计算必要而且可以围绕AI进行重构。

说明：部门图片源于网络，侵删

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/)