langchian_aws模块学习

使用langchain_aws模块实现集成bedrock调用模型，测试源码

1. from langchain_aws.chat_models import ChatBedrock
2. import json
4. def invoke_with_text(model_id, message):
5.     llm = ChatBedrock(model_id=model_id, region_name="us-east-1")
6.     res = llm.invoke(message)
7.     print(f"模型返回的结果:\n {res.content}")
8.     # print(f"id: {res.id}")
9.     # print(f"additional_kwargs: {res.additional_kwargs}")
10.     # print(f"response_metadata: {res.response_metadata}")
12. def invoke_with_json(model_id, input_text):
13.     llm = ChatBedrock(model_id=model_id, region_name="us-east-1")
14.     prompt = {
15.         "text_prompts": [
16.             {"text": f"您好,我是一个翻译官。请将以下句子翻译成英文:\n\n{input_text}"}
17.         ],
18.         "cfg_scale": 10,
19.         "seed": 0,
20.         "steps": 50
21.     }
22.     response = llm.invoke(json.dumps(prompt))
23.     result = response.content
24.     print(f"模型返回的结果: {result}")
26. def translate(model_id, input_text, target_lang="en"):
27.     llm = ChatBedrock(model_id=model_id, region_name="us-east-1")
28.     prompt = {
29.         "text_prompts": [
30.             {"text": f"您好,我是一个翻译官。请将以下句子翻译成{target_lang}语:\n\n{input_text}"}
31.         ],
32.         "cfg_scale": 10,
33.         "seed": 0,
34.         "steps": 50
35.     }
36.     response = llm.invoke(json.dumps(prompt))
37.     result = response.content
38.     print(f"模型返回的结果: {result}")
40. if __name__=="__main__":
41.     # 使用文本输入调用
42.     model_id = "anthropic.claude-3-sonnet-20240229-v1:0"
43.     message = "您好，您是一个翻译官，烦请将如下语句翻译成英文: 关于这个问题的解决方案，我们将会在后面测试验证下，然后在将手册同步给您"
44.     invoke_with_text(model_id, message)
46.     # 使用 JSON 输入调用
47.     input_text = "关于这个问题的解决方案，我们将会在后面测试验证下,然后在将手册同步给您"
48.     invoke_with_json(model_id, input_text)
49.     # 翻译成英文
50.     translate(model_id, input_text, target_lang="en")
52.     # 翻译成西班牙语
53.     translate(model_id, input_text, target_lang="es")   

复制代码

运行之后的效果如下
   模型返回的效果:
 Here is the translation to English:
  Regarding the solution to this issue, we will conduct tests and verification later, then we will sync the manual to you.
模型返回的效果: Here is the translation to English:
  Regarding the solution to this issue, we will validate it through further testing later on, and then synchronize the manual with you.
模型返回的效果: Here is the translation to English:
  Regarding the solution to this issue, we will perform further tests and verification, and then synchronize the manual with you.
模型返回的效果: Aquí está la traducción al español:
  Sobre la solución a este problema, la validaremos con pruebas más adelante y luego sincronizaremos el manual con usted.

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。