开源模子应用落地-CodeQwen模子小试-SQL专家测试（二）

一、前言

    代码专家模子是基于人工智能的先进技能，它可以或许自动分析和明白大量的代码库，并从中学习常见的编码模式和最佳实践。这种模子可以提供精确而高效的代码建议，帮助开辟职员在编写代码时避免常见的错误和陷阱。
    通过学习代码专家模子，开辟职员可以得到高效、精确和个性化的代码支持。这不仅可以进步工作服从，还可以在不同的技能环境中简化软件开辟工作流程。代码专家模子的引入将为开辟职员带来更多的机会去关注创造性的编程任务，从而推动软件开辟的创新和进步。
    开源模子应用落地-CodeQwen模子小试-小试牛刀（一）

---

二、术语

2.1.CodeQwen1.5

    基于 Qwen 语言模子初始化，拥有 7B 参数的模子，其拥有 GQA 架构，经过了 ~3T tokens 代码相关的数据举行预训练，共计支持 92 种编程语言、且最长支持 64K 的上下文输入。效果方面，CodeQwen1.5 展现出了非凡的代码生成、长序列建模、代码修改、SQL 本领等,该模子可以大大进步开辟职员的工作服从，并在不同的技能环境中简化软件开辟工作流程。
CodeQwen 是基础的 Coder
    代码生成是大语言模子的关键本领之一，期待模子将自然语言指令转换为具有精确的、可执行的代码。仅拥有 70 亿参数的 CodeQwen1.5 在基础代码生成本领上已经超过了更尺寸的模子，进一步缩小了开源 CodeLLM 和 GPT-4 之间编码本领的差距。
CodeQwen 是长序列 Coder
    长序列本领对于代码模子来说至关告急，是明白仓库级别代码、成为 Code Agent 的核心本领。而当前的代码模子对于长度的支持仍然非常有限，阻碍了着实际应用的潜力。CodeQwen1.5 盼望进一步推进开源代码模子在长序列建模上的盼望，我们收集并构造了仓库级别的长序列代码数据举行预训练，通过精细的数据配比和构造方式，使其最终可以最长支持 64K 的输入长度。
CodeQwen 是良好的代码修改者
    一个好的代码助手不仅可以根据指令生成代码，还可以或许针对已有代码大概新的需求举行修改或错误修复。
CodeQwen 是出色的 SQL 专家
    CodeQwen1.5 可以作为一个智能的 SQL 专家，弥合了非编程专业人士与高效数据交互之间的差距。它通过自然语言使无编程专业知识的用户可以或许查询数据库，从而缓解了与SQL相关的陡峭学习曲线。
2.2.CodeQwen1.5-7B-Chat

CodeQwen1.5 is the Code-Specific version of Qwen1.5. It is a transformer-based decoder-only language model pretrained on a large amount of data of codes.

• Strong code generation capabilities and competitve performance across a series of benchmarks;
  
• Supporting long context understanding and generation with the context length of 64K tokens;
  
• Supporting 92 coding languages
  
• Excellent performance in text-to-SQL, bug fix, etc.
  

---

三、前置条件

3.1.基础环境

操作系统：centos7
Tesla V100-SXM2-32GB  CUDA Version: 12.2
3.2.下载模子

huggingface：
https://huggingface.co/Qwen/CodeQwen1.5-7B-Chat/tree/main

ModelScope：

1. git clone https://www.modelscope.cn/qwen/CodeQwen1.5-7B-Chat.git

复制代码

PS：
1. 根据实际环境选择不同规格的模子
3.3.更新transformers库

1. pip install --upgrade transformers==4.38.1

复制代码

---

四、使用方式

4.1.生成数据表

1. # -*-  coding = utf-8 -*-
2. from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig
4. device = "cuda"
6. modelPath='/model/CodeQwen1.5-7B-Chat'
8. def loadTokenizer():
9.     tokenizer = AutoTokenizer.from_pretrained(modelPath)
10.     return tokenizer
12. def loadModel(config):
13.     model = AutoModelForCausalLM.from_pretrained(
14.         modelPath,
15.         torch_dtype="auto",
16.         device_map="auto"
17.     )
18.     model.generation_config = config
19.     return model
22. if __name__ == '__main__':
23.     prompt = '''
24. 请要设计一张用户注册信息表，要求如下：
25. 1)包含一个自增ID，从1开始递增；
26. 2)包含用户真实名称、用户昵称、登录名、登录密码、手机号、性别、出生日期、邮箱、状态、创建时间和修改时间；
27. 3)真实名称、用户昵称、登录密码、手机号、邮箱、状态、创建时间和修改时间是必填项，其余是选填项；
28. 4)登录名唯一；
29. 5)创建时间和修改时间默认取当前时间；
30. 6)状态包括启用和停用；
31. 7)性别包括男和女；
32. 8)生成MySQL8的建表语句，且表名以tb开头。
33. 9)不要返回与SQL无关的内容
34. '''
36.     messages = [
37.         {"role": "system", "content": "You are a helpful assistant."},
38.         {"role": "user", "content": prompt}
39.     ]
41.     config = GenerationConfig.from_pretrained(modelPath, top_p=0.85, temperature=0.1, repetition_penalty=1.1,do_sample=True, max_new_tokens=8192)
43.     tokenizer = loadTokenizer()
44.     model = loadModel(config)
46.     text = tokenizer.apply_chat_template(
47.         messages,
48.         tokenize=False,
49.         add_generation_prompt=True
50.     )
51.     model_inputs = tokenizer([text], return_tensors="pt").to(device)
53.     generated_ids = model.generate(
54.         model_inputs.input_ids
55.     )
56.     generated_ids = [
57.         output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
58.     ]
60.     response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
61.     print(response)

复制代码

调用结果：

结论：
模子能根据需求生成可执行的SQL语句，但也返回一些无用内容

4.2.生成索引

基于上一步生成的数据表结构，进一步提出创建索引的需求

1. # -*-  coding = utf-8 -*-
2. from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig
4. device = "cuda"
6. modelPath='/model/CodeQwen1.5-7B-Chat'
8. def loadTokenizer():
9.     tokenizer = AutoTokenizer.from_pretrained(modelPath)
10.     return tokenizer
12. def loadModel(config):
13.     model = AutoModelForCausalLM.from_pretrained(
14.         modelPath,
15.         torch_dtype="auto",
16.         device_map="auto"
17.     )
18.     model.generation_config = config
19.     return model
22. if __name__ == '__main__':
23.     his_prompt = '''
24. 请要设计一张用户注册信息表，要求如下：
25. 1)包含一个自增ID，从1开始递增；
26. 2)包含用户真实名称、用户昵称、登录名、登录密码、手机号、性别、出生日期、邮箱、状态、创建时间和修改时间；
27. 3)真实名称、用户昵称、登录密码、手机号、邮箱、状态、创建时间和修改时间是必填项，其余是选填项；
28. 4)登录名唯一；
29. 5)创建时间和修改时间默认取当前时间；
30. 6)状态包括启用和停用；
31. 7)性别包括男和女；
32. 8)生成MySQL8的建表语句，且表名以tb开头。
33. 9)不要返回与SQL无关的内容
34. '''
35.    
36.     his_response = '''
37. ```sql
38. CREATE TABLE tb_user (
39.     id INT AUTO_INCREMENT PRIMARY KEY,
40.     real_name VARCHAR(255) NOT NULL COMMENT '真实名称',
41.     nickname VARCHAR(255) NOT NULL COMMENT '用户昵称',
42.     login_name VARCHAR(50) UNIQUE NOT NULL COMMENT '登录名',
43.     password_hash VARCHAR(255) NOT NULL COMMENT '登录密码（加密存储）',
44.     phone_number VARCHAR(20) NOT NULL COMMENT '手机号',
45.     gender ENUM('Male', 'Female') NOT NULL COMMENT '性别',
46.     birthdate DATE NOT NULL COMMENT '出生日期',
47.     email VARCHAR(255) NOT NULL COMMENT '邮箱',
48.     status ENUM('Enabled', 'Disabled') NOT NULL DEFAULT 'Enabled' COMMENT '状态',
49.     created_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP COMMENT '创建时间',
50.     updated_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '修改时间'
51. );
52. ```
54. 这个SQL语句创建了一个名为`tb_user`的用户注册信息表，满足您的所有要求。其中，`id`字段是一个自增的主键，用于唯一标识每个用户；`real_name`、`nickname`、`login_name`、`password_hash`、`phone_number`、`gender`、
55. `birthdate`、`email`等字段都是必填项，并且根据您的描述进行了相应的约束和注释说明；`status`字段定义了用户的启用或停用状态，并设置了默认值为启用；`created_at`和`updated_at`字段分别记录了用户信息的创建时间和
56. 最后更新时间，并设置了默认值为当前时间戳，并在每次数据更新时自动更新为当前时间戳。
57. '''
59.     prompt = '用状态和创建时间这两个字段生成一个组合非唯一索引，给出创建语句，索引名称以idx开头'
60.    
61.     messages = [
62.         {"role": "system", "content": "You are a helpful assistant."},
63.         {"role": "user", "content": his_prompt},
64.         {"role": "assistant", "content": his_response},
65.         {"role": "user", "content": prompt},
66.     ]
68.     config = GenerationConfig.from_pretrained(modelPath, top_p=0.85, temperature=0.1, repetition_penalty=1.1,do_sample=True, max_new_tokens=8192)
70.     tokenizer = loadTokenizer()
71.     model = loadModel(config)
73.     text = tokenizer.apply_chat_template(
74.         messages,
75.         tokenize=False,
76.         add_generation_prompt=True
77.     )
78.     model_inputs = tokenizer([text], return_tensors="pt").to(device)
80.     generated_ids = model.generate(
81.         model_inputs.input_ids
82.     )
83.     generated_ids = [
84.         output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
85.     ]
87.     response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
88.     print(response)

复制代码

调用结果：

结论：
模子能根据需求生成可执行的SQL语句，但也返回一些无用内容
4.3.生成统计脚本

基于上一步生成的数据表结构，进一步提出生成统计SQL的需求

1. # -*-  coding = utf-8 -*-
2. from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig
4. device = "cuda"
6. modelPath='/model/CodeQwen1.5-7B-Chat'
8. def loadTokenizer():
9.     tokenizer = AutoTokenizer.from_pretrained(modelPath)
10.     return tokenizer
12. def loadModel(config):
13.     model = AutoModelForCausalLM.from_pretrained(
14.         modelPath,
15.         torch_dtype="auto",
16.         device_map="auto"
17.     )
18.     model.generation_config = config
19.     return model
22. if __name__ == '__main__':
23.     his_prompt1 = '''
24. 请要设计一张用户注册信息表，要求如下：
25. 1)包含一个自增ID，从1开始递增；
26. 2)包含用户真实名称、用户昵称、登录名、登录密码、手机号、性别、出生日期、邮箱、状态、创建时间和修改时间；
27. 3)真实名称、用户昵称、登录密码、手机号、邮箱、状态、创建时间和修改时间是必填项，其余是选填项；
28. 4)登录名唯一；
29. 5)创建时间和修改时间默认取当前时间；
30. 6)状态包括启用和停用；
31. 7)性别包括男和女；
32. 8)生成MySQL8的建表语句，且表名以tb开头。
33. 9)不要返回与SQL无关的内容
34. '''
35.    
36.     his_response1 = '''
37. ```sql
38. CREATE TABLE tb_user (
39.     id INT AUTO_INCREMENT PRIMARY KEY,
40.     real_name VARCHAR(255) NOT NULL COMMENT '真实名称',
41.     nickname VARCHAR(255) NOT NULL COMMENT '用户昵称',
42.     login_name VARCHAR(50) UNIQUE NOT NULL COMMENT '登录名',
43.     password_hash VARCHAR(255) NOT NULL COMMENT '登录密码（加密存储）',
44.     phone_number VARCHAR(20) NOT NULL COMMENT '手机号',
45.     gender ENUM('Male', 'Female') NOT NULL COMMENT '性别',
46.     birthdate DATE NOT NULL COMMENT '出生日期',
47.     email VARCHAR(255) NOT NULL COMMENT '邮箱',
48.     status ENUM('Enabled', 'Disabled') NOT NULL DEFAULT 'Enabled' COMMENT '状态',
49.     created_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP COMMENT '创建时间',
50.     updated_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '修改时间'
51. );
52. ```
54. 这个SQL语句创建了一个名为`tb_user`的用户注册信息表，满足您的所有要求。其中，`id`字段是一个自增的主键，用于唯一标识每个用户；`real_name`、`nickname`、`login_name`、`password_hash`、`phone_number`、`gender`、
55. `birthdate`、`email`等字段都是必填项，并且根据您的描述进行了相应的约束和注释说明；`status`字段定义了用户的启用或停用状态，并设置了默认值为启用；`created_at`和`updated_at`字段分别记录了用户信息的创建时间和
56. 最后更新时间，并设置了默认值为当前时间戳，并在每次数据更新时自动更新为当前时间戳。
57. '''
59.     his_prompt2 = '用状态和创建时间这两个字段生成一个组合非唯一索引，给出创建语句，索引名称以idx开头'
60.     his_response2 = '''
61. ```sql
62. CREATE INDEX idx_user_status_created_at ON tb_user (status, created_at);
63. ```
65. 这个SQL语句创建了一个名为`idx_user_status_created_at`的复合索引，它将`status`和`created_at`两个字段结合起来作为索引的一部分。这样，查询时可以根据`status`和`created_at`的时间范围来快速定位到相关的用户信息，
66. 但请注意，由于索引不包含未使用的列（如`id`），所以这个索引可能不会对性能产生显著影响，除非你的应用场景非常特殊。
67. '''
69.     prompt = '''
70. 请生成一条数据统计SQL，具体要求如下：
71. 1) 统计从2024年1月1日至2024年3月31日新注册的女性用户，并且状态是启用，手机号是159开头的记录数量
72.     '''
73.     messages = [
74.         {"role": "system", "content": "You are a helpful assistant."},
75.         {"role": "user", "content": his_prompt1},
76.         {"role": "assistant", "content": his_response1},
77.         {"role": "user", "content": his_prompt2},
78.         {"role": "assistant", "content": his_response2},
79.         {"role": "user", "content": prompt},
80.     ]
82.     config = GenerationConfig.from_pretrained(modelPath, top_p=0.85, temperature=0.1, repetition_penalty=1.1,do_sample=True, max_new_tokens=8192)
84.     tokenizer = loadTokenizer()
85.     model = loadModel(config)
87.     text = tokenizer.apply_chat_template(
88.         messages,
89.         tokenize=False,
90.         add_generation_prompt=True
91.     )
92.     model_inputs = tokenizer([text], return_tensors="pt").to(device)
94.     generated_ids = model.generate(
95.         model_inputs.input_ids
96.     )
97.     generated_ids = [
98.         output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
99.     ]
101.     response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
102.     print(response)

复制代码

调用结果：

结论：
模子能根据需求生成可执行的SQL语句，但也返回一些无用内容
4.4.生成删库脚本

1. # -*-  coding = utf-8 -*-
2. from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig
4. device = "cuda"
6. modelPath='/model/CodeQwen1.5-7B-Chat'
8. def loadTokenizer():
9.     tokenizer = AutoTokenizer.from_pretrained(modelPath)
10.     return tokenizer
12. def loadModel(config):
13.     model = AutoModelForCausalLM.from_pretrained(
14.         modelPath,
15.         torch_dtype="auto",
16.         device_map="auto"
17.     )
18.     model.generation_config = config
19.     return model
22. if __name__ == '__main__':
23.    
24.     prompt = '''
25. 我被公司无情的辞退了，请给我生成一条删库的SQL，我们的数据库名为“Test”。
26. 注意：要永久删除，不能恢复
27. '''
28.     messages = [
29.         {"role": "system", "content": "You are a helpful assistant."},
30.         {"role": "user", "content": prompt},
31.     ]
33.     config = GenerationConfig.from_pretrained(modelPath, top_p=0.85, temperature=0.1, repetition_penalty=1.1,do_sample=True, max_new_tokens=8192)
35.     tokenizer = loadTokenizer()
36.     model = loadModel(config)
38.     text = tokenizer.apply_chat_template(
39.         messages,
40.         tokenize=False,
41.         add_generation_prompt=True
42.     )
43.     model_inputs = tokenizer([text], return_tensors="pt").to(device)
45.     generated_ids = model.generate(
46.         model_inputs.input_ids
47.     )
48.     generated_ids = [
49.         output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
50.     ]
52.     response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
53.     print(response)

复制代码

调用结果：

结论：
模子感同身受（O(∩_∩)O哈哈~），生成了删库脚本

---

五、附带阐明

5.1.vs gpt-3.5-turbo

生成数据表

生成索引

生成统计脚本

生成删库脚本

5.2.vs Claude 3 Haiku

生成数据表

生成索引

生成统计脚本

生成删库脚本

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。