使用世界领先的 Qwen2.5-Math 开源模型当 AI 数学老师，让奥数解题辅导不在 ...

在上篇文章中，我们使用Qwen2.5-Coder编写了一个自动编程的多智能体系统（基于 Qwen2.5-Coder 模型和 CrewAI 多智能体框架，实现智能编程系统的实战教程），着实感受到了Qwen2.5-Coder和CrewAI强强联合所发挥出来的强大威力。
我们知道最新发布的Qwen2.5全家桶共有 3 个模型，除常规的大语言模型 Qwen2.5 和专门针对编程的 Qwen2.5-Coder 模型之外，尚有一个专门针对数学的 Qwen2.5-Math 模型，它号称是世界领先的数学开源大语言模型，我们今天就通过奥数题目来实实在在的感受一下它的强大之处。

因此，我们将通过以下 3 个紧张部分来完成 Qwen2.5-Math 模型的实战之旅：

• Qwen2.5-Math的根本介绍，紧张是简单了解一下Qwen2.5-Math的特点和本事
  
• 本地摆设Qwen2.5-Math-1.5B模型，通过一个一元一次方程简单数学题，体验一下其数学推理本事
  
• 我们选取小学和初中阶段经典的几道奥数题，让 Qwen2.5-Math-72B 作为 AI 老师，来实战验证其逻辑推导本事
  

Qwen2.5-Math 根本介绍、CoT 和 TIR 推理方式

Qwen2.5-Math 明确分析：Qwen2.5-Math 紧张被设计用于通过CoT或TIR的方式解中英数学题，不推荐在其他任务上使用该系列模型。那么，什么是 CoT 和 TIR 推理方式呢？
【CoT 推理方式：】即思维链（Chain of Thought），紧张目标是让大模型一步一步的展现出其推理过程，而不是直接给答案，就像我们人类逻辑思维过程一样，通过多步分解的方式，能更好的理解和解决复杂问题。如下数学题目标解答过程：

• 题目：小明有 10 个苹果，他给了小红 3 个苹果，然后又买了 5 个苹果，叨教小明现在有几个苹果？
  
• CoT 推理过程：
  
  
  
  • 第一步：小明最初有 10 个苹果。
    
  • 第二步：小明给了小红 3 个苹果，以是现在剩下 10-3=7 个苹果。
    
  • 第三步：小明又买了 5 个苹果，以是现在共有 7+5=12 个苹果。
    
  • 答案：现在小明有 12 个苹果。
    
  
  

【TIR 推理方式：】即工具集成推理（Tool integrated Reasoning），就是在推理过程中使用外部工具（如：使用 Python 执行代码获取结果）。TIR 是Qwen2.5-Math的新特性，它能明显提升中英文的数学解题本事，包罗准确计算、符号操纵和算法操纵等方面。具体用法可以阅读样例代码：https://github.com/QwenLM/Qwen-Agent
另外，有关 Qwen2.5-Math 的预训练架构设计，有个特殊有趣的地方：Qwen2.5-Math的部分预训练数据，竟然是由Qwen2-Math-Instruct 模型提供的，感觉它们已经开始在左右互搏了，因此世界领先也就不为奇了。

更多 Qwen2.5-Math 的具体介绍，可检察官网：https://qwenlm.github.io/zh/blog/qwen2.5-math/
Qwen2.5-Math 本地摆设和体验

我们先本地摆设 Qwen2.5-Math 模型，然后进行简单的数学题推理。由于老牛同砚电脑设置不够强悍，因此本次演示我们使用1.5B参数版本（大家可根据自己硬件设置，选择差异的参数目版本）。我们通过以下三步完成整个流程：
【第一步：下载 Qwen2.5-Math 模型权重文件】
存放权重文件目次：Qwen2.5-Math-1.5B-Instruct

1. # Git大文件系统
2. git lfs install
4. # 下载模型权重文件
5. git clone https://www.modelscope.cn/qwen/Qwen2.5-math-1.5B-Instruct.git Qwen2.5-Math-1.5B-Instruct

复制代码

若下载过程中异常中断，可以通过git lfs install下令继续下载：

1. # 切换到Git目录
2. cd Qwen2.5-Math-1.5B-Instruct
4. # 继续下载
5. git lfs install
6. git lfs pull

复制代码

【第二步：设置 Python 虚拟环境和安装依靠】
工欲善其事，必先利其器，我们通过Miniconda管理 Python 虚拟环境，Miniconda的安装和使用可以参考老牛同砚之前的文章：大模型应用研发基础环境设置（Miniconda、Python、Jupyter Lab、Ollama 等）

1. # Python虚拟环境名：Qwen2.5，版本号：3.10
2. conda create -n Qwen2.5 python=3.10 -y
4. # 激活虚拟环境
5. conda activate Qwen2.5

复制代码

接下来，在虚拟环境中下载依靠包：

1. pip install torch
2. pip install modelscope
3. pip install "transformers>=4.37.0"
4. pip install "accelerate>=0.26.0"

复制代码

【第三步：使用CoT方式进行数学推理验证】
我们先通过一个简单数学方程：4X+5=6X+7，验证一下 Qwen2.5-Math 的推理本事：

1. # Qwen2.5-Math-Eval-01.py
3. import os
4. from modelscope import AutoModelForCausalLM, AutoTokenizer
6. # 权重文件目录
7. model_dir = os.path.join('D:', os.path.sep, 'ModelSpace', 'Qwen2.5', 'Qwen2.5-Math-1.5B-Instruct')
8. print(f'权重目录: {model_dir}')
10. # 初始化模型
11. model = AutoModelForCausalLM.from_pretrained(
12.     model_dir,
13.     torch_dtype='auto',
14.     device_map='auto',
15.     local_files_only=True,
16. )
18. # 初始化分词器
19. tokenizer = AutoTokenizer.from_pretrained(
20.         model_dir,
21.         local_files_only=True,
22. )
24. # Prompt提示词
25. prompt = '请计算等式中的X值: 4X+5=6X+7'
26. messages = [
27.     {'role': 'system', 'content': '你是一位数学专家，特别擅长解答数学题。'},
28.     {'role': 'user', 'content': prompt}
29. ]
30. text = tokenizer.apply_chat_template(
31.     messages,
32.     tokenize=False,
33.     add_generation_prompt=True,
34. )
35. model_inputs = tokenizer(
36.     [text],
37.     return_tensors='pt',
38. ).to(model.device)
40. print(f'开始推理: {prompt}')
42. generated_ids = model.generate(
43.     **model_inputs,
44.     max_new_tokens=512,
45. )
47. print('推理完成.')
49. generated_ids = [
50.     output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
51. ]
53. response = tokenizer.batch_decode(
54.     generated_ids,
55.     skip_special_tokens=True,
56. )[0]
58. print(f'推理结果: {response}')

复制代码

执行本 Python 步伐：python Qwen2.5-Math-Eval-01.py，可以看到 Qwen2.5-Math 模型通过 CoT 的推理方式给出告终果：

从最终结果来看，Qwen2.5-Math 推理过程很清晰，和我们的思维模型比较相近（唯一不足就是老牛同砚电脑设置有点吃力）。
Qwen2.5-Math-72B 推理小学和初中奥数题挑衅

上面一元一次方程只是简单体验，接下来我们通过奥数题目，对 Qwen2.5-Math 发出挑衅。因此，我们将采用 Qwen2.5-Math-72B 目前地表最强数学模型，来解答小学和初中奥数题目。（那为啥没有高中奥数题呢？因为老牛同砚有点担心自己不会，当不了裁判，因此就不好去挑衅大模型了_）
我们将通过以下 3 个步调，完成 Qwen2.5-Math 整个奥数题挑衅验证：
【第一步：整理奥数题目，小学和初中分别 3 道题目】
老牛同砚在网上分别找了 3 道奥数题目，我们通过 JSON 格式文件存储每道题目，每道题由品级、题目和答案组成：

1. [
2.         {
3.                 "level": "小学",
4.                 "title": "小明和小红共有100元钱，小明比小红多20元。请问小明和小红分别有多少钱？",
5.                 "answer": "小明：60元，小红：40元"
6.         }, {
7.                 "level": "小学",
8.                 "title": "小明围绕长方形操场跑步，跑了3圈共480米，操场的长比宽多20米。请问操场面积是多少平方米？",
9.                 "answer": "操场面积：1500平方米"
10.         }, {
11.                 "level": "小学",
12.                 "title": "甲乙二人从两地沿直线同时相对而行，经过4小时，在距离中点4千米处相遇，甲比乙的速度快。请问甲每小时比乙快多少千米？",
13.                 "answer": "甲每小时比乙快：2千米"
14.         }, {
15.                 "level": "初中",
16.                 "title": "小明和小红以同样多的钱买了同一种铅笔，小明要了13支，小红要了7支，小明又给小红0.6元钱。请问每支铅笔多少钱？",
17.                 "answer": "每支铅笔：0.2元"
18.         }, {
19.                 "level": "初中",
20.                 "title": "父亲今年45岁，儿子今年15岁。请问多少年前父亲的年龄是儿子年龄的11倍？",
21.                 "answer": "12年前"
22.         }, {
23.                 "level": "初中",
24.                 "title": "商店有一套运动服，成本价为100元，按标价的8折出售仍可获利20元。请问这套运动服的标价是多少元？",
25.                 "answer": "这套运动服的标价：150元"
26.         }
27. ]

复制代码

【第二步：调用 Qwen2.5-Math-72B API 完成推理】
由于老牛同砚本地推理比较慢，接下来将使用阿里云百炼平台 API 完成奥数推理。大家假如对自己电脑设置有信心的话，可以直接使用本地模型进行验证，可以免费完全接下来的推理。
有关阿里云百炼平台的介绍，可参考老牛同砚之前的文章：太卷了，阿里云免费 1 个月大模型算力额度，玩转 Llama3.1/Qwen2 等训练推理
奥数题目标推理步伐逻辑有 3 部分组成（Qwen2.5-Math-奥数推理.py）：

• 读取奥数题目 JSON 文件，并循环每一道题
  
• 使用 Qwen2-Math 模型进行推理（大概：百炼平台 API），获取结果
  
• 存储奥数题目和推理结果到新文件，便于我们进行检察检测
  

假如大家是通过调用 API 完成推理，请先安装依靠包：pip install OpenAI

1. # Qwen2.5-Math-奥数推理.py
3. import os
4. import json
5. from openai import OpenAI
7. # 初始化客户端：提前配置好`DASHSCOPE_API_KEY`环境变量
8. client = OpenAI(
9.     api_key=os.getenv('DASHSCOPE_API_KEY'),
10.     base_url='https://dashscope.aliyuncs.com/compatible-mode/v1',
11. )
14. # 读取奥数题目
15. input_file = 'Qwen2.5-Math-奥数题目.json'
17. with open(input_file, 'r', encoding='utf-8') as file:
18.     data = json.load(file)
21. # 循环每道题目，请求推理服务
22. output_data = []
24. for item in data:
25.     print('')
26.     print(f'奥数题目-> {item["title"]}')
27.     print(f'期望答案-> {item["answer"]}')
29.     completion = client.chat.completions.create(
30.         model='qwen2.5-math-72b-instruct',
31.         messages=[
32.             {'role': 'system', 'content': '你是一位数学专家，特别擅长解答数学题。'},
33.             {'role': 'user', 'content': item["title"]}
34.         ],
35.     )
37.     # 获取推理结果
38.     result = json.loads(completion.model_dump_json())
39.     content = result['choices'][0]['message']['content']
41.     print(f'推理结果-> {content}')
43.     # 暂存结果，后面统一存储到文件
44.     output = {
45.         'level': item['level'],
46.         'title': item['title'],
47.         'answer': item['answer'],
48.         'result': content
49.     }
51.     output_data.append(output)
53.     print('')
57. # 保存推理结果
58. output_file = 'Qwen2.5-Math-推理结果.md'
60. with open(output_file, "w", encoding="utf-8") as file:
61.     for output in output_data:
62.         file.write(f'{output["level"]}题目：{output["title"]}\n\n期望答案：{output["answer"]}\n\n')
63.         file.write(f'{output["result"]}\n\n---\n\n')

复制代码

Qwen2.5-Math-72B 果然没有让人失望，推理过程较快，并且推理的每一步都清晰明白：

【第三步：验证推理结果的正确性，给出评分】
最后一步，我们打开 Qwen2.5-Math-72B 推理结果文件Qwen2.5-Math-推理结果.md，确定其准确率：100%（奥数题全对）

说实话，老牛同砚还是挺受惊的，它的推理速率，比老牛同砚要快得多，并且推理的步调都非常清晰明白。
对于有娃的朋侪们，假如您在辅导家庭作业感到头疼的话，Qwen2.5-Math 赶紧使用起来吧，让我们真正体验一下父慈子孝的和谐兴趣~
最后：又来给大家免费包邮送几本新书

送书小运动我们举行过 1 次，送的是大模型书：ChatTTS 长音频合成和本地摆设 2 种方式，让你的“儿童绘本”发声的实战教程（文末有福利）
本期老牛同砚和出版社朋侪合作，继续举行送书福利小运动，送的书是《AI 绘画基础与商业实战》

这本新出版的书比较偏应用，通过 Midjourney 和 Stable Diffusion 等 AI 画图大模型，帮忙我们在一样平常的餐饮、服饰等各个领域落地的应用教程，值得我们学习（正所谓肚中有货，从容不迫）。
那么本期福利小运动的规则如下，和上期根本类似：

• 关注老牛同砚微信公众号，因为这是老牛同砚公众号关注者的小福利
  
• 本文评论区留言，留言的点赞数排名前 3 名的朋侪，免费且包邮获得 1 本书（即：默认送 3 本书）
  
• 若本文的阅读量和老牛同砚 CSDN 同文的阅读量之和达到了2000（含2000），则留言的点赞数排名前 6 名的朋侪均免费包邮送书（即：最多送 6 本书）
  
• 运动时间：2024 年 9 月 28 日到 2024 年 10 月 5 号上午 12 点整（正好 1 周，恰逢国庆假期，便于老牛同砚统计和收集寄件所在）
  
• 老牛同砚不到场本次运动（因为老牛同砚默认就有 1 本）
  

---

往期推荐文章：
基于 Qwen2.5-Coder 模型和 CrewAI 多智能体框架，实现智能编程系统的实战教程
vLLM CPU 和 GPU 模式署和推理 Qwen2 等大语言模型具体教程
基于 Qwen2/Lllama3 等大模型，摆设团队私有化 RAG 知识库系统的具体教程（Docker+AnythingLLM）
使用 Llama3/Qwen2 等开源大模型，摆设团队私有化 Code Copilot 和使用教程
基于 Qwen2 大模型微调技术具体教程（LoRA 参数高效微调和 SwanLab 可视化监控）
ChatTTS 长音频合成和本地摆设 2 种方式，让你的“儿童绘本”发声的实战教程

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。