择要：深入浅出地先容华为云AI原生应用引擎，通太过钟级智能天生Agent应用的方式帮助企业完成从传统应用到智能应用的竞争力转型，使能千行万业智能应用创新。
本文分享自华为云社区《DTT第71期直播回顾：零代码构建AI Agent——华为云AI原生应用引擎的架构与实践》，作者： 华为云社区精选。
基于大模子的天生式AI，将会引领我们走向AGI通用人工智能时代，经常有人说，在大模子和天生式AI时代，统统应用都值得用AI重做一遍。这是为什么呢？作为技术从业者，我们需要明白大模子天生式AI给软件开发产业带来的影响：1.在企业业务运动中，最难以传承和复制的就是业务知识和经验，大模子是一种比较好的途径，能够将企业已经积累的知识经验、场景know-how等内容，以模子的方式对外提供。2.基于大模子产生了一些场景化的AI能力，这是之前传统AI或传统编程方式所不具备的，比如智能营销内容、辅助软件开发过程、方案天生、智能客服等。3.基于大模子的AI原生应用给人们的业务运动带来了根本性改变，比如人际交互方式、内容生产方式、个性化用户体验、定制化软件交付等。
对于大模子带来的颠覆性技术创新以及对应用开发的影响，可以归纳为两个方面：
（1）从大模子技术本身来讲，有三方面的颠覆性创新：1.文生图、文生视频等X到Y的天生/创造能力，这是非常通用的智能化技术；2.解数学题、做规划等推理和求解能力；3.天然语言对话等天然交互能力。这是之前传统软件开发或传统软件技术栈内部不具备的一些能力，称之为颠覆性的变化。
（2）从软件的视角带来了两个层面的改变：1.AI赋能人，在肯定程度上模仿人、逾越人，比如具身智能和AI Agent分别在物理天下、数字天下辅助人、替代人；2.AI重塑存量软件及工具，显著提拔人的服从及体验。
大模子与天生式AI驱动软件产业发生新的范式变革
第一点是认知和思想方面的变化，称为AI First新思想，即在软件开发或业务运动中遇到任何问题，起首会思考怎样用大模子和天生式AI的技术来办理，这是一种新的思维方式，既包括了对技术的认知，也包括了怎样用技术来重构既有的业务流程，或者颠覆既有的开发模式。第二点是AI Native新实践，指从架构、流程、方法等层面带来的新的最佳实践。除此之外，还可以从4个方面来明白大模子天生式AI给软件开发运动带来的影响：
- 新架构：从构成式架构到天生式架构的变化；
- 新体验：从键鼠与触摸到天然交互的变化；
- 新工程：从以人为本的协作开发到以数据为本的天生式开发的变化；
- 新贸易：从软件即服务到服务即软件的变化。
大模子落地企业场景，需要办理的六大关键挑衅
（1）怎样选择符合的大模子，建立有效的模子引入机制
业界模子种类繁多，有差别规格、差别模态，办理问题时怎样选择最符合的模子，是一个比较复杂的问题，必须要办理几个关键要素，比如对模子进行专业评测、模子引入要有一套管理机制、回避风险问题以及有效治理能力各异的大模子等。
（2）怎样用好大模子，在基模之上进一步提拔应用使用效果
- 提示词工程：提示词的核心是对业务的明白和抽象，它是围绕业务的一种高度凝练的总结和抽象，构建提示词工程有肯定的门槛；
- 模子复用和模子编排：在实际场景中存在多种差别模子的复合使用，需要实现模子之间的有机调度和编排；
- 持续迭代：做完程序或功能后，必然存在怎样持续演进的问题，需要基于业务的反馈、知识标注和数据回流来持续提拔模子，保证业务效果得到持续优化。
（3）怎样建立IT部分与业务部分的有效协同机制
- 选择符合的场景需要规避两个问题，一是当前模子可能不太善于某些问题，二是要注意选择通过低本钱办理高代价场景；
- 基于大模子的天生式应用开发，不仅是IT问题，更多的是业务问题，它以数据为中央、联合业务场景，因此，业务部分和IT部分/开发团队在AI原生应用的开发过程中需要做有效协同；
- 开发运动中需要有效实现协同来构筑公共资产，包括业务领域的知识/数据资产、模子和开发运动中的一些公共能力和组件的相关资产。
（4）怎样准备丰富的高质量数据，帮助AI明白业务
- B端业务场景的数据不太充分，需要通过肯定经验和方法来准备高质量数据，华为总结了一些开发的业务运动，构筑到工具平台内里，来辅助开发者完成数据准备；
- 语言类模子本身具备语言能力和推理能力，答复客户问题需要基于企业内部知识库来天生，而不能用模子内部知识，避免给用户造成误导；
- 抑制具备通用知识的模子在业务适配后产生的幻觉，通常是通过挂载外部知识库的方式来实现，但知识库比较复杂、内容泉源多样、有多种差别形态，需要有效管理协同知识库的内容，才能确保在检索和天生过程中引用到符合的知识，从而达到更好的幻觉抑制效果。
（5）怎样建立完善的风险保障机制，确保AI安全可信治理
我国针对大模子、基于大模子天生的应用，都有相关的安全合规、管理的制度和内容，这就要求具备一些能力从源头上确保合法合规。从资产安全性角度，大模子压缩的行业知识和经验、挂载给模子的知识库内容、模子天生的内容，都属于高代价资产，怎样保证模子安全、数据安全，也需要重点思量和办理。
（6）怎样应对大模子带来的投资本钱
在大模子训练推理算力和大模子业务开发运动过程中，平衡本钱和收益始终是一个绕不开的话题，可以通过良好的业务规划和计划来复用模子，来达到算力和请求之间的一种均衡，也可以运用提示词缓存等机制，有效降低模子在推理过程中的斲丧和本钱开支。
华为云AI原生应用引擎，使能千行万业AI原生应用创新
针对以上挑衅，华为云推出了AI原生应用引擎，给开发者提供了AI原生应用的一站式服务平台，从模子本身角度，是帮助企业选好、用好、管好大模子，从应用开发服从和效果角度，是赋能开发者实现AI原生应用创新，主要有五大功能：
1. 模子中央：提供模子评测、模子调度、模子可观测性统计、模子治理等相关的功能和运动。
- 模子中央的核心是模子网关，对业界主流大模子、贸易大模子、自建模子进行托管，统一管理和调度各种差别泉源、差别用途的模子，通过会合的网关来实现统一注册、接入、调度、路由、分发和可观性跟踪，把已有的或第三方模子资产快速注入到模子网关中进行预集成验证，方便被上层调用，同时，模子中央还提供了基于ABM的元数据管理机制，根据模子的种类、规格、泉源、用途等建立一个清晰的管理清单，确保在业务运动过程中相关资产的安全性和合规性；
- 模子中央从华为自身的场景实践和表里部生态的汇聚，提供了针对模子场景的自动化评测框架，难度在于缺乏B端企业生产场景的数据，需要用企业自身的相关知识和评估方法去完成，现在有两种方法来判断评测天生的结果，一是基于一个评判的模子，即AI评判AI的自动化方式，二是引入相关专家的经验和知识，由专家来标注或者判断结果，两者联合来给出最终评判结果；
- 当推理的算力集群或模子本身发生故障时，提供了模子Failover机制，后端实现自动切换，前端业务场景无感知，不影响上层业务应用；
- 在模子中央网关节点通道上，对输入输出的内容进行合规过滤和监测，同时监控模子推理的性能，提供全面的关于后端的客观性度量和跟踪机制。
2.知识中央：通过提示词工程、模子检索加强天生RAG工程、Agent工程等来提拔模子场景效果并持续迭代优化。
- 高质量提示词输出难度大，现在有两种办理思路，一是总结一些场景的良好实践形成提示词模板可供直接使用，二是用AI的方式对用户输入的内容进行改写、扩写，把含糊性、片段性的内容转换成相对较准确、形貌布局较完备的提示词，提拔模子推理能力，并根据天生结果的反馈来判断应用效果，持续迭代和优化提示词模板；
- 将业务经验和知识的文档类资产导入到平台里，变化成模子能够明白和消费的知识，并提供知识数据的加工、标注处理处罚、天生的功能；
- 训练过程中可能出现数据不透明、逾期、本身质量差、存在究竟性错误等问题，通常使用模子检索加强天生RAG的方式来完成加强，它是一个程序化、工程化的实现，包括了对查询输入意图的明白、改写、转写和对后端差别知识库的查询编排，可以通过串接传统搜刮、数据库、知识库等相关内容的融合检索来天生最终想要的结果；
- 根据前端交互界面天生结果的评测和反馈，来优化知识库内容、模子训练数据和对模子调优。
3.Agent编排：基于模子之上有效地连接既有的业务能力、数据、其他差别的第三方模子等，来实现复杂的业务运动。
- 大模子在推理能力上的局限性导致无法办理比较复杂的任务和场景，在现在的Agent开发过程中，都采用了流编排或流引擎技术，这是通过一种预定义的方式，预先完成对业务的拆解，来实现有效调度和协同；
- 华为云AI原生应用引擎支持0码方式实现Agent编排和SDK方式来串接差别的模子或AI Agent完成高码编排，提供了丰富的场景、强大的流处理处罚引擎和相关处理处罚机制、对千万级Agent调度协同的管理能力和基于函数编程、代码执行的相关能力，高效使用资源，处理处罚灵活方便；
- 在南向和北向上提供了两层API封装的定义，便于在南向对接业界各种差别的大小模子，在北向开放接口，使能开发者基于AI原生应用引擎平台完成对存量应用的改造和重塑，或新形态应用的开发，来实现北向生态的繁荣。
4.AI可信治理：通过平台化build-in的安全机制和能力，保证模子天生内容结果的可靠性和数据资产、模子资产的安全性等。
- 基于华为内部的实践经验，内置了全流程可信的工具方法，根据差别的脚色和权限定义，保护数据、知识库、Agent应用以及相关业务；
- 传统应用的输出结果都是确定的，在肯定程度上是可信的，而AI应用天生的结果比较灵活，有肯定的风险，需要采取隔离措施来保证这两者之间安全合规的集成和调用。
5.AI资产库：开发运动中沉淀和积累的场景模子、数据、知识、提示词、Agent、业务运动资产等，都可以放到资产库里，来实现最大范围内的复用，有效提拔后续开发的服从和质量。
- 资产中央内置了行业同伴和行业实践相关的数据资产，API Hub里预封装了行业能力的API资产，比如卡车物流、天气查询、打车等生产生存中常见的场景API Kit，方便被大模子或Agent调用；
- 基于大模子的AI原生资产，包括Agent开发模板、场景模子、知识资产等，帮助开发者降低开发难度和复杂度，来快速完成应用创新。
赋能开发者完成AI原生应用的快速创新
AI原生应用构建模式一：Agent分钟级构建，一站式、顾问式快速构建Agent应用
基于大模子的智能系统，提供专家顾问的方式来引导保举天生智能应用，即Agent应用的一站式/分钟级构建能力，只需在平台形貌业务诉求、业务场景，剩下的应用天生的工作交给平台，无论是数据、工具调用、知识库挂载、提示词模板等相关内容，都可以通过AI的方式来智能化、自动化地天生，有效降低智能应用的开发难度或复杂度，这就是“Agent for Agent”。
AI原生应用构建模式二：基于工作流构建
针对特别复杂的任务或企业内部涉及到大量跟存量系统之间的集成工作，必不可少会使用工作流编排方式，工作流内里提供了比较丰富的节点能力，可以串接大小模子节点、逻辑控制节点等等，支持调用外部工具或AI应用，实现差别的功能。
扫码免费申请公测，体验0代码创建智能应用
AI原生应用引擎，使能千行万业AI原生应用创新
AI智能导诊：助力医患沟通，辅助医生诊疗，让优质资源惠及大众
在医疗行业，Agent应用在肯定程度上可以扮演专家顾问的脚色，在就诊前为患者提供咨询服务，在完成底子查抄后解读查抄结果，另外，在就诊过程中，可以辅助医生完成患者病例、治疗结果等内容的天生，通过专业模子提供专业诊断建议，以及就诊后的管理、问题解答等，以缓解医疗资源有限的局面，而在这个过程中所积累的资产和数据，还可以反向提供给医院用于教学运动、培养实习生。
AI智能客服：AI专家7*24小时在线服务，智能快速排障
AGV智能搬运机器人是在制造行业被大规模使用的一种设备，不可避免地会出现一些故障，过行止理过程繁复，现在用AI方式，可以通过收罗现场设备信息和用户前端上报来对故障问题做预判，基于后端智能客服的AI程序来答复用户的问题、辅助诊断、提供办理方案，假如无法办理，再安排工程师去现场，并把相关的案例整理成重复使用的知识库案例，来应用到后续的环节中去，提拔诊断服从。从智能客服的完备流程来看，在每个环节都涉及到对AI的有效使用，比如智能问答、语音交互、日记剖析、前端感知、数字孪生系统对接、向前端设备下发指令、历史对话接口管理等，帮助AGV客户和厂商管理人员完成故障处理处罚。
合作共赢，加快千行万业的智能化升级
华为是技术供应商，提供算力底座、生态底座、人才培训底座，但最终要完成对行业的AI重塑或AI化改造，则依赖广大开发者和生态同伴，华为云开天aPaaS提供三个使能，一是贸易使能，与开发者和ISV同伴实现能力共建、商机共享，二是技术使能，华为内部有大量AI原生应用开发的工程方法和最佳实践总结，可以提供专业服务，三是生态使能，华为云有非常广泛的生态能力和工具，可以帮助开发者和ISV同伴在华云上生长和强大。
篇幅有限，更多出色内容可点击视频回看：
0代码智能构建AI Agent——华为云AI原生应用引擎的架构与实践_DTT_直播_云社区_华为云
华为开发者空间，汇聚鸿蒙、昇腾、鲲鹏、GaussDB、欧拉等各项根技术的开发资源及工具，致力于为每位开发者提供一台云主机、一套开发工具及云上存储空间，让开发者基于华为根生态创新。点击链接，免费领取您的专属云主机
点击关注，第一时间了解华为云新鲜技术~
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。 |
