# 如何让大模子安全地主动天生代码并执行？ ## 前言

熊熊出没 · 5 天前

前言

本文带来的分享是在crewai中利用代码表明器，为了安全，代码在docker中运行。
为什么要利用代码表明器呢？
之前的文章中利用的是function call + 各种工具来完成一个任务，比如文件读取工具、文件生存工具等。
但是用户的需求是多变的，你很难提前写好全部的工具。
读取文件内容，利用代码表明器的结果如下所示：

实践

首先必要看下crewai中提供的代码表明器工具代码，学习一下。
代码在：https://github.com/crewAIInc/crewAI-tools/tree/main/crewai_tools/tools/code_interpreter_tool
文件如下：

先来看一下Dockerfile：

FROM python:3.12-alpine
RUN pip install requests beautifulsoup4
# Set the working directory
WORKDIR /workspace

复制代码

这是一个Dockerfile的片段，用于构建一个Python环境的Docker镜像。表明如下：
FROM python:3.12-alpine：这行指定了底子镜像为Python 3.12版本的Alpine Linux镜像。Alpine Linux是一种轻量级的Linux发行版，非常适合作为Docker镜像的底子。
RUN pip install requests beautifulsoup4：这行利用pip安装两个Python包：requests和beautifulsoup4。requests是一个用于发送HTTP请求的库，而beautifulsoup4是一个用于解析HTML和XML文档的库。
WORKDIR /workspace：这行设置了容器中的工作目录为/workspace。当容器启动时，会主动进入这个目录。
总的来说，这个Dockerfile构建了一个Python环境，安装了两个常用的库，并将工作目录设置为/workspace。这个镜像可以用于运行Python应用步伐，尤其是那些必要解析HTML和发送HTTP请求的应用步伐。
再来看一下code_interpreter_tool.py的代码：

import importlib.util
import os
from typing import List, Optional, Type
from crewai.tools import BaseTool
from docker import from_env as docker_from_env
from docker import DockerClient
from docker.models.containers import Container
from docker.errors import ImageNotFound, NotFound
from docker.models.containers import Container
from pydantic import BaseModel, Field
class CodeInterpreterSchema(BaseModel):
"""
Input for CodeInterpreterTool.
供代码解释工具输入。
"""
code: str = Field(
...,
# Python3代码原来是在Docker容器中被解释的。始终打印最终结果和代码的输出。
description="Python3 code used to be interpreted in the Docker container. ALWAYS PRINT the final result and the output of the code",
)
libraries_used: Optional[List[str]] = Field(
None,
# 代码中使用的库列表，带有适当的安装名称，以逗号分隔。例如： numpy，pandas，beautifulsoup4
description="List of libraries used in the code with proper installing names separated by commas. Example: numpy,pandas,beautifulsoup4",
)
class CodeInterpreterTool(BaseTool):
name: str = "Code Interpreter"
description: str = "Interprets Python3 code strings with a final print statement."
args_schema: Type[BaseModel] = CodeInterpreterSchema
default_image_tag: str = "code-interpreter:latest"
code: Optional[str] = None
user_dockerfile_path: Optional[str] = None
user_docker_base_url: Optional[str] = None
unsafe_mode: bool = False
@staticmethod
def _get_installed_package_path():
spec = importlib.util.find_spec("crewai_tools")
return os.path.dirname(spec.origin)
def _verify_docker_image(self) -> None:
"""
Verify if the Docker image is available. Optionally use a user-provided Dockerfile.
验证Docker镜像是否可用。可选地使用用户提供的Dockerfile。
"""
client = (
docker_from_env()
if self.user_docker_base_url == None
else DockerClient(base_url=self.user_docker_base_url)
)
try:
client.images.get(self.default_image_tag)
except ImageNotFound:
if self.user_dockerfile_path and os.path.exists(self.user_dockerfile_path):
dockerfile_path = self.user_dockerfile_path
else:
package_path = self._get_installed_package_path()
dockerfile_path = os.path.join(
package_path, "tools/code_interpreter_tool"
)
if not os.path.exists(dockerfile_path):
raise FileNotFoundError(
f"Dockerfile not found in {dockerfile_path}"
)
client.images.build(
path=dockerfile_path,
tag=self.default_image_tag,
rm=True,
)
def _run(self, **kwargs) -> str:
code = kwargs.get("code", self.code)
libraries_used = kwargs.get("libraries_used", [])
if self.unsafe_mode:
return self.run_code_unsafe(code, libraries_used)
else:
return self.run_code_in_docker(code, libraries_used)
def _install_libraries(self, container: Container, libraries: List[str]) -> None:
"""
Install missing libraries in the Docker container
"""
for library in libraries:
container.exec_run(["pip", "install", library])
def _init_docker_container(self) -> Container:
container_name = "code-interpreter"
client = docker_from_env()
current_path = os.getcwd()
# Check if the container is already running
try:
existing_container = client.containers.get(container_name)
existing_container.stop()
existing_container.remove()
except NotFound:
pass # Container does not exist, no need to remove
return client.containers.run(
self.default_image_tag,
detach=True,
tty=True,
working_dir="/workspace",
name=container_name,
volumes={current_path: {"bind": "/workspace", "mode": "rw"}}, # type: ignore
)
def run_code_in_docker(self, code: str, libraries_used: List[str]) -> str:
self._verify_docker_image()
container = self._init_docker_container()
self._install_libraries(container, libraries_used)
exec_result = container.exec_run(["python3", "-c", code])
container.stop()
container.remove()
if exec_result.exit_code != 0:
return f"Something went wrong while running the code: \n{exec_result.output.decode('utf-8')}"
return exec_result.output.decode("utf-8")
def run_code_unsafe(self, code: str, libraries_used: List[str]) -> str:
"""
Run the code directly on the host machine (unsafe mode).
"""
# Install libraries on the host machine
for library in libraries_used:
os.system(f"pip install {library}")
# Execute the code
try:
exec_locals = {}
exec(code, {}, exec_locals)
return exec_locals.get("result", "No result variable found.")
except Exception as e:
return f"An error occurred: {str(e)}"

复制代码

主要的参数与描述如下：

code: str = Field(
...,
# Python3代码原来是在Docker容器中被解释的。始终打印最终结果和代码的输出。
description="Python3 code used to be interpreted in the Docker container. ALWAYS PRINT the final result and the output of the code",
)
libraries_used: Optional[List[str]] = Field(
None,
# 代码中使用的库列表，带有适当的安装名称，以逗号分隔。例如： numpy，pandas，beautifulsoup4
description="List of libraries used in the code with proper installing names separated by commas. Example: numpy,pandas,beautifulsoup4",
)

复制代码

测试这个工具的代码：

from crewai import LLM, Agent, Crew, Process, Task
# from crewai_tools import CodeInterpreterTool
from code_interpreter_tool import CodeInterpreterTool
import os
from dotenv import load_dotenv
load_dotenv()
api_key = os.getenv('SiliconCloud_API_KEY')
base_url = os.getenv('SiliconCloud_API_BASE')
model = os.getenv('SiliconCloud_MODEL_NAME', 'openai/Qwen/Qwen2.5-72B-Instruct') # Provide a default model if not set
agent_llm = LLM(
model=model,
base_url=base_url,
api_key=api_key
)
# Create an LLM with a temperature of 0 to ensure deterministic outputs
# llm = LLM(model="gpt-4o-mini", temperature=0)
# Create an agent with the knowledge store
agent = Agent(
role="Tool User",
goal="You know how to use the tool.",
backstory="""
You are a master at using the tool.
使用代码执行工具时，如果没有使用库，则libraries_used参数为空列表，需要写成libraries_used=[]。
""",
verbose=True,
allow_delegation=False,
llm=agent_llm,
tools=[CodeInterpreterTool()],
)
task = Task(
description="""
根据用户需求：{question}
使用相应的工具。
""",
expected_output="获取本次工具输出的结果，无需其它内容。",
agent=agent,
)
crew = Crew(
agents=[agent],
tasks=[task],
verbose=True,
process=Process.sequential,
)
result = crew.kickoff(
inputs={
"question": "获取test2.txt的内容"
}
)

复制代码

在这个地方可以输入你的需求看看代码表明器能不能实现。
先来一个最简朴的：

result = crew.kickoff(
inputs={
"question": "输出你好世界"
}
)

复制代码

再来一个创建文件的：

result = crew.kickoff(
inputs={
"question": "创建test3.txt，里面写入我是一只鱼。"
}
)

复制代码

再试一下必要利用库的：

result = crew.kickoff(
inputs={
"question": "画一个折线图，横坐标为1月、2月、3月，纵坐标为12、15、17,将结果保存到test.png。"
}
)

复制代码

中文字体没有正常表现，修改需求：

画一个折线图，横坐标为1月、2月、3月，纵坐标为12、15、17,需要显示中文字体，将结果保存到test.png。

复制代码

还是没有成功。
在docker环境中没有安装中文字体。

并且利用代码表明器的一个缺点就是你无法保证AI天生的代码就是能用的，轻微复杂一点的需求，就有大概天生无法运行的代码。

如许来看代码表明器的可玩性还是有很大的限制。
但是确实可以替代一些简朴的工具了。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

		自动登录	找回密码
密码			立即注册

# 如何让大模子安全地主动天生代码并执行？ ## 前言

本帖子中包含更多资源

0 个回复

快速回复

楼主热帖

标签云

浏览过的版块