利用openai，Llama-index库实现多功能的agent [Datawhale学习]

参考资料：GitHub - datawhalechina/wow-agent: A simple and trans-platform agent framework and tutorial

目次
一、借助Llama-index实现算数agent
注意：要在.env文件中配置好apikey
1.先构建大模子（智谱glm-4-flash模子）
2.构建其需要利用的算数工具
3.完整代码
二、多模子接入agent
借助Llama-index和OpenWeatherMap实现实时天气
1.构建大模子与（一、借助Llama-index实现agent）相同，这里着重说明后半部分
2.由于OpenWeatherMap是利用经度纬度获取天气，以是需要将地区转换为经纬度
3.再利用经纬度获取天气信息
4.完整代码如下
效果如下
三、数据库接入agent
1.本地安装ollama
运行效果
2.毗连数据库的模子
首先创建数据库，并添加数据
假如你是用的是pycharm，以下方法可以直观的查看表中数据
注意事项：
3.再用本地摆设的模子ollama作为llm实现agent
注意需要提前安装这些库
效果如下
四、RAG接入agent
1.首先接入本地的模子
2.构建索引
3.构建问答引擎
4.完整代码体验RAG
注意：将以下内容命名为问答手册.txt，放置在代码运行目次下（供模子学习）
运行效果
5.将RAG作为工具供agent利用
完整代码
效果如下
五、搜索引擎接入agent
1.接入模子
2.构建llm模子
3.配置搜索引擎
4.完整代码
效果如下

---

一、借助Llama-index实现算数agent

注意：要在.env文件中配置好apikey

申请一个智谱的免费api参考利用openai，Llama-index实现agent [Datawhale学习]-CSDN博客
1.先构建大模子（智谱glm-4-flash模子）

本次由于要借助react框架，因此启用流式相应更能反映模子自我推理本领
  

1. import os
2. from dotenv import load_dotenv
3. from openai import OpenAI
4. from pydantic import Field  # 导入Field，用于Pydantic模型中定义字段的元数据
5. from llama_index.core.llms import (
6.     CustomLLM,
7.     CompletionResponse,
8.     LLMMetadata,
9. )
10. from llama_index.core.embeddings import BaseEmbedding
11. from llama_index.core.llms.callbacks import llm_completion_callback
12. from typing import List, Any, Generator
14. # 加载环境变量
15. load_dotenv()
16. # 从环境变量中读取api_key
17. api_key = os.getenv('ZHIPU_API_KEY')
18. base_url = "https://open.bigmodel.cn/api/paas/v4"
19. chat_model = "glm-4-flash"
23. # 定义OurLLM类，继承自CustomLLM基类
24. class OurLLM(CustomLLM):
25.     api_key: str = Field(default=api_key)
26.     base_url: str = Field(default=base_url)
27.     model_name: str = Field(default=chat_model)
28.     client: OpenAI = Field(default=None, exclude=True)  # 显式声明 client 字段
30.     def __init__(self, api_key: str, base_url: str, model_name: str = chat_model, **data: Any):
31.         super().__init__(**data)
32.         self.api_key = api_key
33.         self.base_url = base_url
34.         self.model_name = model_name
35.         self.client = OpenAI(api_key=self.api_key, base_url=self.base_url)  # 使用传入的api_key和base_url初始化 client 实例
37.     @property
38.     def metadata(self) -> LLMMetadata:
39.         """Get LLM metadata."""
40.         return LLMMetadata(
41.             model_name=self.model_name,
42.         )
44.     @llm_completion_callback()
45.     def complete(self, prompt: str, **kwargs: Any) -> CompletionResponse:
46.         response = self.client.chat.completions.create(model=self.model_name, messages=[{"role": "user", "content": prompt}])
47.         if hasattr(response, 'choices') and len(response.choices) > 0:
48.             response_text = response.choices[0].message.content
49.             return CompletionResponse(text=response_text)
50.         else:
51.             raise Exception(f"Unexpected response format: {response}")
53.     @llm_completion_callback()
54.     def stream_complete(
55.         self, prompt: str, **kwargs: Any
56.     ) -> Generator[CompletionResponse, None, None]:
57.         response = self.client.chat.completions.create(
58.             model=self.model_name,
59.             messages=[{"role": "user", "content": prompt}],
60.             stream=True
61.         )
63.         try:
64.             for chunk in response:
65.                 chunk_message = chunk.choices[0].delta
66.                 if not chunk_message.content:
67.                     continue
68.                 content = chunk_message.content
69.                 yield CompletionResponse(text=content, delta=content)
71.         except Exception as e:
72.             raise Exception(f"Unexpected response format: {e}")
74. llm = OurLLM(api_key=api_key, base_url=base_url, model_name=chat_model)

复制代码

2.构建其需要利用的算数工具

  

1. import sys
2. import os
4. sys.path.append(os.path.abspath(os.path.join(os.path.dirname(__file__), "..", "..")))
6. from llama_index.core.agent import ReActAgent
7. from llama_index.core.tools import FunctionTool
10. def multiply(a: float, b: float) -> float:
11.     """Multiply two numbers and returns the product"""
12.     return a * b
15. def add(a: float, b: float) -> float:
16.     """Add two numbers and returns the sum"""
17.     return a + b
20. def main():
22.     multiply_tool = FunctionTool.from_defaults(fn=multiply)
23.     add_tool = FunctionTool.from_defaults(fn=add)
25.     # 创建ReActAgent实例
26.     agent = ReActAgent.from_tools([multiply_tool, add_tool], llm=llm, verbose=True)
28.     response = agent.chat("20+（2*4）等于多少？使用工具计算每一步")
30.     print(response)

复制代码

3.完整代码

  

1. import os
2. from dotenv import load_dotenv
3. from openai import OpenAI
4. from pydantic import Field  # 导入Field，用于Pydantic模型中定义字段的元数据
5. from llama_index.core.llms import (
6.     CustomLLM,
7.     CompletionResponse,
8.     LLMMetadata,
9. )
10. from llama_index.core.embeddings import BaseEmbedding
11. from llama_index.core.llms.callbacks import llm_completion_callback
12. from typing import List, Any, Generator
14. # 加载环境变量
15. load_dotenv()
16. # 从环境变量中读取api_key
17. api_key = os.getenv('ZHIPU_API_KEY')
18. base_url = "https://open.bigmodel.cn/api/paas/v4"
19. chat_model = "glm-4-flash"
23. # 定义OurLLM类，继承自CustomLLM基类
24. class OurLLM(CustomLLM):
25.     api_key: str = Field(default=api_key)
26.     base_url: str = Field(default=base_url)
27.     model_name: str = Field(default=chat_model)
28.     client: OpenAI = Field(default=None, exclude=True)  # 显式声明 client 字段
30.     def __init__(self, api_key: str, base_url: str, model_name: str = chat_model, **data: Any):
31.         super().__init__(**data)
32.         self.api_key = api_key
33.         self.base_url = base_url
34.         self.model_name = model_name
35.         self.client = OpenAI(api_key=self.api_key, base_url=self.base_url)  # 使用传入的api_key和base_url初始化 client 实例
37.     @property
38.     def metadata(self) -> LLMMetadata:
39.         """Get LLM metadata."""
40.         return LLMMetadata(
41.             model_name=self.model_name,
42.         )
44.     @llm_completion_callback()
45.     def complete(self, prompt: str, **kwargs: Any) -> CompletionResponse:
46.         response = self.client.chat.completions.create(model=self.model_name, messages=[{"role": "user", "content": prompt}])
47.         if hasattr(response, 'choices') and len(response.choices) > 0:
48.             response_text = response.choices[0].message.content
49.             return CompletionResponse(text=response_text)
50.         else:
51.             raise Exception(f"Unexpected response format: {response}")
53.     @llm_completion_callback()
54.     def stream_complete(
55.         self, prompt: str, **kwargs: Any
56.     ) -> Generator[CompletionResponse, None, None]:
57.         response = self.client.chat.completions.create(
58.             model=self.model_name,
59.             messages=[{"role": "user", "content": prompt}],
60.             stream=True
61.         )
63.         try:
64.             for chunk in response:
65.                 chunk_message = chunk.choices[0].delta
66.                 if not chunk_message.content:
67.                     continue
68.                 content = chunk_message.content
69.                 yield CompletionResponse(text=content, delta=content)
71.         except Exception as e:
72.             raise Exception(f"Unexpected response format: {e}")
74. llm = OurLLM(api_key=api_key, base_url=base_url, model_name=chat_model)
76. import sys
77. import os
79. sys.path.append(os.path.abspath(os.path.join(os.path.dirname(__file__), "..", "..")))
81. from llama_index.core.agent import ReActAgent
82. from llama_index.core.tools import FunctionTool
85. def multiply(a: float, b: float) -> float:
86.     """Multiply two numbers and returns the product"""
87.     return a * b
90. def add(a: float, b: float) -> float:
91.     """Add two numbers and returns the sum"""
92.     return a + b
95. def main():
97.     multiply_tool = FunctionTool.from_defaults(fn=multiply)
98.     add_tool = FunctionTool.from_defaults(fn=add)
100.     # 创建ReActAgent实例
101.     agent = ReActAgent.from_tools([multiply_tool, add_tool], llm=llm, verbose=True)
103.     response = agent.chat("20+（2*4）等于多少？使用工具计算每一步")
105.     print(response)if __name__ == "__main__":    main()

复制代码

用智谱glm-4-flash运行效果

GPT-4o运行效果

可以两个效果对比一下，好像也差不多，可能模子简单的情况下不易区分
二、多模子接入agent

借助Llama-index和OpenWeatherMap实现实时天气

OpenWeatherMap具体利用请参考OpenWeatherMap API指南-CSDN博客
1.构建大模子与（一、借助Llama-index实现agent）相同，这里着重说明后半部分

（首先需要去OpenWeatherMap官网注册申请“API密钥”：Members，并将密钥储存在.env文件中）
即OpenWeatherMap_API_KEY=
2.由于OpenWeatherMap是利用经度纬度获取天气，以是需要将地区转换为经纬度

  

1. def get_coordinates(city: str) -> dict:
2.     api_key = os.getenv('OpenWeatherMap_API_KEY')
3.     # OpenWeatherMap API endpoint for current weather
4.     url = f"http://api.openweathermap.org/data/2.5/weather?q={city}&appid={api_key}"
6.     try:
7.         # Send a GET request to the OpenWeatherMap API
8.         response = requests.get(url)
10.         # Check if the response is successful (status code 200)
11.         if respo

复制代码

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。