五、AIGC大模型_06第三方大模型云服务调用与RAG初识
1、概述现在，市面上的许多大模型（如阿里的通义千问、百度的文心一言、月之暗面的kimi、深度求索的deepseek等），它们除了能让我们自己直接进行利用之外，通常还支持通过开放API接口的形式，让我们进行接入，从而使得我们自己的IT系统具备大模型相关能力
本文将以阿里云百炼平台（https://bailian.console.aliyun.com/#/home）为例，先容怎样调用第三方大模型云服务
2、第三方大模型云服务（阿里云百炼平台）的根本调用
Step1： 访问官网（https://bailian.console.aliyun.com/#/home）
Step2： 创建API-KEY
https://i-blog.csdnimg.cn/direct/a3ad8fca57d94b4286106fc891317601.png
https://i-blog.csdnimg.cn/direct/74414f003c374524b360db7c87bde188.png
Step3： 将API-KEY放入环境变量中
方法有许多种，这里先容此中的一种方法，即：在项目目录下创建名为《.env》的文件，并将API-KEY的值赋予DASHSCOPE_API_KEY参数
https://i-blog.csdnimg.cn/direct/b6a59c7c36cd4ebcb43a02f92b78e5c4.png
备注：jupyter下默认不显示以小数点开头的文件，可以通过资源管理器（windows系统）或ls -a命令（linux系统）的方式进行查看
Step4： 安装环境依赖
pip install dashscope -U Step5： 代码调用
# 加载环境变量中的DASHSCOPE_API_KEY
from dotenv import load_dotenv
load_dotenv()
# 加载阿里大模型
from langchain_community.chat_models import ChatTongyi
from langchain_community.embeddings.dashscope import DashScopeEmbeddings
# 调用qwen-turbo模型
model = ChatTongyi(model="qwen-turbo", temperature=0.1, top_p=0.3, max_tokens=512)
respose = model.invoke(input="你好")
print(respose.content) https://i-blog.csdnimg.cn/direct/28df6c5f40944e839e5e75c6d442e2bd.png
通过上面步骤，可知调用第三方大模型云服务还是非常方便，不需要自己搭建GPU环境和做摆设的摆设，唯一美中不敷的就是需要根据调用量（tokens）来收费，不过现在价格很自制，所以还是可以根据实际情况选择是否利用这种简单的方式
3、RAG初识
3.1 引子——阅读理解
岂论是语文还是英文，对于语言类学科的学习，我们通常都碰到过“阅读理解”类的试题，即：给定一篇或一段文章，要求梳理和总结其内容，来回答指定的题目
人能做阅读理解，大模型照样可以，下面将以网站中华人民共和国电子签名法_百度百科中的部分内容为例，调用上面我们测试接入过的qwen-turbo模型，来演示大模型的“阅读理解”能力
# 加载环境变量中的DASHSCOPE_API_KEY
from dotenv import load_dotenv
load_dotenv()
# 加载阿里大模型
from langchain_community.chat_models import ChatTongyi
from langchain_community.embeddings.dashscope import DashScopeEmbeddings
from langchain_core.prompts import SystemMessagePromptTemplate
from langchain_core.prompts import HumanMessagePromptTemplate
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
sys_prompt = SystemMessagePromptTemplate.from_template(template="""
你是一个阅读理解机器人！
请认真阅读用户提供的文章，并根据文章的内容来回答用户的问题！
请注意：
1, 如果问题没有在文章中出现，请直接使用你自己的知识来回答！
2, 不需要做任何的解释，直接回答问题的结果即可！
""")
user_prompt = HumanMessagePromptTemplate.from_template(template="""
文章为：
{passage}
问题为：
{question}
答案为：
""")
prompt = ChatPromptTemplate.from_messages(messages=)
model = ChatTongyi(model="qwen-turbo", temperature=0.1, top_p=0.3, max_tokens=512)
output_parser = StrOutputParser()
chain = prompt | model | output_parser
passage = """
中华人民共和国电子签名法被认为是中国首部真正电子商务法意义上的立法。因为自1996年联合国颁布《电子商务示范法》以来，世界各国电子商务立法如火如荼，有的国家颁布了电子商务法或交易法，有的国家颁布了电子签名或数字签名法，也有的国家兼采两种立法方式。 而我国电子商务立法最终在国家信息化战略的引导下出台，可以说是业内人士期盼已久的举措，也受到了各相关企业乃至政府部门的高度关注。
被称为“中国首部真正意义上的信息化法律”，自此电子签名与传统手写签名和盖章具有同等的法律效力。《电子签名法》是我国推进电子商务发展，扫除电子商务发展障碍的重要步骤。虽然舆论普遍认为《电子签名法》将会极大地促进电子商务在我国的快速发展，但在网络交易安全、相关法律衔接等“拦路虎”面前，有关专家认为，现阶段《电子签名法》的标志意义大于实际意义。
2002年5月，《中华人民共和国电子签名法》起草工作的正式启动，当时由国务院信息化领导小组组织。
2003年4月，根据国务院立法工作计划,国务院法制办会同信息产业部、国务院信息化工作办公室开始接手《中华人民共和国电子签名法(草案)》的起草工作。该《草案》于2004年4月2日提交全国人大常委会第八次会议首次审议，经第十次二读后，第十一次会议通过。
2004年8月28日第十届全国人民代表大会常务委员会第十一次会议通过，自2005年4月1日起施行。
2015年4月24日第十二届全国人民代表大会常务委员会第十四次会议《关于修改〈中华人民共和国电力法〉等六部法律的决定》修正
根据2019年4月23日第十三届全国人民代表大会常务委员会第十次会议《关于修改《中华人民共和国建筑法》等八部法律的决定》修正
"""
question = """
电子签名法的起源是？
"""
chain.invoke(input=dict(passage=passage, question=question)) https://i-blog.csdnimg.cn/direct/bd98c2260d0045c5a7e5294ed87c84d2.png
3.2 题目与思考
在当今数字化期间，许多企业都积累了海量的私有知识资料，包括产品阐明、规章制度、对外文案等，这些资料是企业的宝贵财富
然而，在实际应用中，当我们要找某个资料时，我们每每都是通过“资料名称”或“资料内容”中的关键字来进行检索，然后基于自己的理解，来做进一步的知识转换和输出，如许做是可行的，但效率很低
面临此题目，我们应该思考：既然大模型能像本文【3.1 引子——阅读理解】中的操作如许针对文章或段落内容做阅读理解，那么是不是也可以基于企业内部的私有知识资料做阅读理解呢？——当然是可以的！
既然可以，那么还有一个重要题目需要思考，即：当我们向大模型问一个题目时，如果我们企业内部的私有知识资料许多，则大模型应该将这些知识完全都参考吗？能不能只把跟题目有关的知识让大模型参考？——当然是可以的！
那怎样判定或筛选跟题目相关的知识呢？
方法：根据文本相似度来进行检索
[*]方式1：通过关键词来匹配
[*]这其实就是我们现在传统的方式，但其要求太高了，需要提前把文章的关键词准备好，费时费力
[*]其次，面临国际化的社会，语言的差异处理起来也很贫苦
[*]最后，不能做阅读理解，只能根据文本关键字做平凡检索，不够机动
[*]方式2：语义化匹配
[*]原理：离开语言自己，看内涵，跨语言、跨表达风俗，直奔这句话的本质去
[*]详细方式：
[*]Step1：把私有资料按逻辑互相独立的单位来分段
[*]Step2：利用一个模型（本质：BERT，向量化）把每段知识的核心信息抽取出来，酿成一个向量（好比，1024维）
[*]Step3：找一个数据库（向量化数据库，且需要GPU支撑）把这些知识片段及其向量都存起来
[*]Step4：对用户提问的处理：先把题目通过向量化模型，转换成一个向量，然后利用这个向量去向量数据库中做匹配，查找最相似的上下文
[*]把题目和上下一起交给模型，让模型回答题目！
[*]疑问：你都在库中找到答案了，还让大模型天生个毛啊？
[*]检索出来的东西，有些高度相关，有些低相关，而且比较长 需要自己再去加工的！！！
[*]大模型帮我们快速筛选和判定！！而且按你的风俗来输出结果！！
[*]优势：对于传统的关键词检索，其检索出来的内容有些是与题目高度相关的，有些是低相关的，而且比较长，需要自己再去加工；而大模型能帮我们快速筛选和判定，同时按照自己的风俗来输出结果
即，大抵利用步骤为：
[*]Query——提问
[*]Retrieve——检索（相关的上下文）
[*]Augment——增强（在prompt中整合题目和上下文）
[*]Generate——天生（天生最终的结果）
3.3 RAG基础知识
RAG（Retrieval Augmented Generation，即：检索增强天生）是一种结合检索和天生的混合方法，旨在办理上述“企业内部私有资料的阅读理解”题目，其核心思想是通过检索技术从私有知识库中提取与题目最相关的上下文，然后将题目和上下文一起输入大语言模型，从而天生高质量的答案
3.3.1 RAG的工作原理
RAG的工作流程可以分为以下几个步骤：
Step1：加载与切分（Load & Split） 起首，需要将企业的私有知识资料加载到系统中，这些资料可以是文档、网页或其他格式
加载完成后，将知识资料按照逻辑单位进行切分（比方：将一篇长文档拆分为多个段落或章节，每个单位都应具有相对独立的语义）
Step2：向量化（Embed） 利用一个预训练的语言模型（如BERT）将每个知识单位的核心信息提取出来，并将其转换为一个高维向量（比方1024维），这些向量能够捕捉知识单位的语义特征，为后续的检索提供基础
Step3：入库（Store） 将向量化的知识单位及其对应的原始文本存储到一个专门的向量数据库中，这个数据库支持高效的向量检索，通常基于GPU加快，能够快速处理大规模数据
Step4：提问（Query） 当用户提出一个题目时，起首将题目通过相同的向量化模型转换为一个向量
Step5：检索（Retrieve） 利用题目向量在向量数据库中检索与题目最相关的知识单位，通常会返回多个相关性较高的上下文片段，这些片段可能与题目高度相关，也可能只是部分相关
Step6：增强（Augment） 将检索到的上下文片段与原始题目整合到一个增强的提示（prompt）中，这个提示将作为输入传递给大语言模型
Step7：天生（Generate） 大语言模型根据增强后的提示天生最终的答案（这个过程不仅利用了检索到的上下文信息，还结合了模型自身的语言天生能力，能够天生更准确、更符合用户需求的答案）
3.3.2 RAG的优势
[*] 高效性：通过检索技术，RAG能够快速从海量知识中筛选出与题目相关的部分，制止了信息过载
[*] 准确性：结合检索到的上下文和大语言模型的天生能力，能够天生更准确的答案
[*] 机动性：RAG可以根据差别的题目动态检索相关的知识，适应性强
3.3.3 RAG的实现细节
（1）向量化模型的选择
在RAG中，向量化模型的选择至关重要，BERT是一个常见的选择，因为它能够很好地捕捉文本的语义特征
然而，随着技术的发展，也有其他更先辈的模型可供选择，比方Sentence-BERT（SBERT）或DPR（Dense Passage Retrieval），这些模型在语义理解和检索效率上都有更好的表现
（2）向量数据库的选择
向量数据库是RAG的核心组件之一，它需要支持高效的向量检索，并能够处理大规模数据
常见的向量数据库包括ChromaDB、Faiss、Milvus、Elasticsearch等，这些数据库都提供了强盛的检索功能，能够快速返回与题目向量最相似的知识单位
（3）检索战略
在检索过程中，可以采用差别的战略来优化结果
比方，可以设置检索的召回数目（Top-K），并根据相关性分数对检索结果进行排序；别的，还可以结合多模态信息（如图像或表格）来进一步提升检索的准确性
（4）天生阶段的优化
在天生阶段，大语言模型可以根据检索到的上下文天生答案，为了进一步优化天生结果，可以采用以下战略：
[*] 上下文裁剪：如果检索到的上下文过长，可以对其进行裁剪，只保留与题目最相关的部分
[*] 多轮对话：如果题目较为复杂，可以将RAG嵌入到多轮对话系统中，逐步细化题目和答案
[*] 结果校验：天生的答案可以与检索到的上下文进行对比，确保其准确性和一致性
3.3.4 RAG的实践案例
（1）企业内部问答系统
某大型制造企业采用了RAG技术来构建内部问答系统，该系统整合了企业的产品阐明书、技术文档和规章制度等私有知识
通过RAG，员工可以快速查询与工作相关的题目，并得到准确的答案（比方：当员工询问某个产品的技术参数时，系统能够从海量文档中检索出最相关的部分，并结合大语言模型天生详细的答案）
（2）客户支持系统
在客户支持场景中，RAG可以资助客服人员快速找到与客户题目相关的知识
比方：当客户询问产品的利用方法或售后服务政策时，系统能够从企业对外文案和规章制度中检索出相关内容，并天生清楚、准确的回复。这不仅进步了客户满意度，还减轻了客服人员的工作负担
3.3.5 RAG的未来展望
随着技术的不停进步，RAG在企业私有知识管理中的应用前景广阔，未来，我们可以期待以下几个发展方向
[*] 多模态融合：结合文本、图像、视频等多种模态的信息，进一步提升检索和天生的效果
[*] 跨语言支持：通过跨语言向量化技术，实现多语言知识的统一管理和检索
[*] 智能化优化：利用机器学习技术，主动优化检索战略和天生结果，提升系统的智能化水平
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]