Linux 体系上安装和部署 DeepSeek 模子的具体步调
)1. 体系要求
[*]操作体系:Ubuntu 20.04/22.04、CentOS 7/8 或其他兼容的 Linux 发行版
[*]Python:3.8 或更高版本(推荐 3.12)
[*]数据库:MySQL 8.0 或 PostgreSQL 14+
[*]工具:Git、pip、virtualenv
[*]硬件:建议 8GB 以上内存,支持 CUDA 的 GPU(如需 GPU 加速)
2. 安装底子依赖
Ubuntu/Debian
sudo apt update
sudo apt install -y python3 python3-pip python3-venv git mysql-server mysql-client
CentOS/RHEL
sudo yum install -y python3 python3-pip python3-virtualenv git mysql-server mysql
sudo systemctl start mysqld
sudo systemctl enable mysqld
3. 配置 Python 虚拟情况
# 创建项目目录
mkdir ~/deepseek_project && cd ~/deepseek_project
# 创建并激活虚拟环境
python3 -m venv venv
source venv/bin/activate# 激活虚拟环境,提示符显示 (venv)
4. 克隆 DeepSeek 项目
# 克隆代码仓库(替换为实际仓库地址)
git clone https://github.com/deepseek-ai/deepseek-model.git
cd deepseek-model
# 安装项目依赖(需联网)
pip install --upgrade pip
pip install -r requirements.txt
# 若需 GPU 支持,安装 CUDA 版本的 PyTorch
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
5. 配置 MySQL 数据库
5.1 初始化数据库
# 登录 MySQL
sudo mysql -u root -p
# 创建数据库和用户
CREATE DATABASE deepseek_db;
CREATE USER 'deepseek_user'@'localhost' IDENTIFIED BY 'your_password';
GRANT ALL PRIVILEGES ON deepseek_db.* TO 'deepseek_user'@'localhost';
FLUSH PRIVILEGES;
EXIT;
5.2 测试数据库连接
# 安装 MySQL 驱动
pip install pymysql
# 验证连接
python3 -c "import pymysql; pymysql.connect(host='localhost', user='deepseek_user', password='your_password', database='deepseek_db')"
若无报错,表现连接乐成。
6. 配置情况变量
# 创建 .env 文件
echo "FLASK_APP=app.py" > .env
echo "FLASK_ENV=development" >> .env
echo "DATABASE_URI=mysql+pymysql://deepseek_user:your_password@localhost/deepseek_db" >> .env
echo "SECRET_KEY=your-secret-key-123" >> .env
7. 运行 DeepSeek 服务
# 激活虚拟环境(若未激活)
source venv/bin/activate
# 启动 Flask 开发服务器
flask run --host=0.0.0.0 --port=5000
8. 验证服务
本地测试
curl -X POST "http://127.0.0.1:5000/predict" -H "Content-Type: application/json" -d '{"text": "你好,DeepSeek!"}'
远程访问
在欣赏器中访问 http://<服务器IP>:5000,确认服务正常运行。
9. 生产情况优化(可选)
9.1 使用 Gunicorn 部署
pip install gunicorn
gunicorn -w 4 -b 0.0.0.0:5000 app:app
9.2 配置 Nginx 反向代理
# 安装 Nginx
sudo apt install nginx# Ubuntu/Debian
sudo yum install nginx# CentOS/RHEL
# 创建配置文件 /etc/nginx/sites-available/deepseek.conf
server {
listen 80;
server_name your_domain.com;
location / {
proxy_pass http://127.0.0.1:5000;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
}
}
# 启用配置并重启 Nginx
sudo ln -s /etc/nginx/sites-available/deepseek.conf /etc/nginx/sites-enabled/
sudo nginx -t
sudo systemctl restart nginx
9.3 配置 Systemd 服务
# 创建服务文件 /etc/systemd/system/deepseek.service
Description=DeepSeek Service
After=network.target
User=ubuntu
WorkingDirectory=/home/ubuntu/deepseek_project/deepseek-model
ExecStart=/home/ubuntu/deepseek_project/venv/bin/gunicorn -w 4 -b 0.0.0.0:5000 app:app
Restart=always
WantedBy=multi-user.target
# 启动服务
sudo systemctl daemon-reload
sudo systemctl start deepseek
sudo systemctl enable deepseek
10. 常见题目解决
端口冲突
[*]修改启动端口:flask run --port 8080
权限题目
[*]开放防火墙端口:sudo ufw allow 5000# Ubuntu
sudo firewall-cmd --permanent --add-port=5000/tcp# CentOS
依赖缺失
[*]手动安装缺失包:pip install --no-index --find-links=./offline-packages <package_name>
11. 扩展功能
GPU 加速
[*]安装 NVIDIA 驱动和 CUDA Toolkit:sudo apt install nvidia-driver-535# Ubuntu
[*]验证 CUDA 支持:import torch
print(torch.cuda.is_available())# 应输出 True
模子微调
# 使用自定义数据集微调模型
python3 finetune.py --model deepseek-model --data /path/to/dataset
通过以上步调,您可以在 Linux 体系上完成 DeepSeek 的安装、配置和生产级部署。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页:
[1]