Linux 体系上安装和部署 DeepSeek 模子的具体步调

打印 上一主题 下一主题

主题 933|帖子 933|积分 2803

)

1. 体系要求



  • 操作体系:Ubuntu 20.04/22.04、CentOS 7/8 或其他兼容的 Linux 发行版
  • Python:3.8 或更高版本(推荐 3.12)
  • 数据库:MySQL 8.0 或 PostgreSQL 14+
  • 工具:Git、pip、virtualenv
  • 硬件:建议 8GB 以上内存,支持 CUDA 的 GPU(如需 GPU 加速)

2. 安装底子依赖

Ubuntu/Debian

  1. sudo apt update
  2. sudo apt install -y python3 python3-pip python3-venv git mysql-server mysql-client
复制代码
CentOS/RHEL

  1. sudo yum install -y python3 python3-pip python3-virtualenv git mysql-server mysql
  2. sudo systemctl start mysqld
  3. sudo systemctl enable mysqld
复制代码

3. 配置 Python 虚拟情况

  1. # 创建项目目录
  2. mkdir ~/deepseek_project && cd ~/deepseek_project
  3. # 创建并激活虚拟环境
  4. python3 -m venv venv
  5. source venv/bin/activate  # 激活虚拟环境,提示符显示 (venv)
复制代码

4. 克隆 DeepSeek 项目

  1. # 克隆代码仓库(替换为实际仓库地址)
  2. git clone https://github.com/deepseek-ai/deepseek-model.git
  3. cd deepseek-model
  4. # 安装项目依赖(需联网)
  5. pip install --upgrade pip
  6. pip install -r requirements.txt
  7. # 若需 GPU 支持,安装 CUDA 版本的 PyTorch
  8. pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
复制代码

5. 配置 MySQL 数据库

5.1 初始化数据库

  1. # 登录 MySQL
  2. sudo mysql -u root -p
  3. # 创建数据库和用户
  4. CREATE DATABASE deepseek_db;
  5. CREATE USER 'deepseek_user'@'localhost' IDENTIFIED BY 'your_password';
  6. GRANT ALL PRIVILEGES ON deepseek_db.* TO 'deepseek_user'@'localhost';
  7. FLUSH PRIVILEGES;
  8. EXIT;
复制代码
5.2 测试数据库连接

  1. # 安装 MySQL 驱动
  2. pip install pymysql
  3. # 验证连接
  4. python3 -c "import pymysql; pymysql.connect(host='localhost', user='deepseek_user', password='your_password', database='deepseek_db')"
复制代码
若无报错,表现连接乐成。

6. 配置情况变量

  1. # 创建 .env 文件
  2. echo "FLASK_APP=app.py" > .env
  3. echo "FLASK_ENV=development" >> .env
  4. echo "DATABASE_URI=mysql+pymysql://deepseek_user:your_password@localhost/deepseek_db" >> .env
  5. echo "SECRET_KEY=your-secret-key-123" >> .env
复制代码

7. 运行 DeepSeek 服务

  1. # 激活虚拟环境(若未激活)
  2. source venv/bin/activate
  3. # 启动 Flask 开发服务器
  4. flask run --host=0.0.0.0 --port=5000
复制代码

8. 验证服务

本地测试

  1. curl -X POST "http://127.0.0.1:5000/predict" -H "Content-Type: application/json" -d '{"text": "你好,DeepSeek!"}'
复制代码
远程访问

在欣赏器中访问 http://<服务器IP>:5000,确认服务正常运行。

9. 生产情况优化(可选)

9.1 使用 Gunicorn 部署

  1. pip install gunicorn
  2. gunicorn -w 4 -b 0.0.0.0:5000 app:app
复制代码
9.2 配置 Nginx 反向代理

  1. # 安装 Nginx
  2. sudo apt install nginx  # Ubuntu/Debian
  3. sudo yum install nginx  # CentOS/RHEL
  4. # 创建配置文件 /etc/nginx/sites-available/deepseek.conf
  5. server {
  6.     listen 80;
  7.     server_name your_domain.com;
  8.     location / {
  9.         proxy_pass http://127.0.0.1:5000;
  10.         proxy_set_header Host $host;
  11.         proxy_set_header X-Real-IP $remote_addr;
  12.     }
  13. }
  14. # 启用配置并重启 Nginx
  15. sudo ln -s /etc/nginx/sites-available/deepseek.conf /etc/nginx/sites-enabled/
  16. sudo nginx -t
  17. sudo systemctl restart nginx
复制代码
9.3 配置 Systemd 服务

  1. # 创建服务文件 /etc/systemd/system/deepseek.service
  2. [Unit]
  3. Description=DeepSeek Service
  4. After=network.target
  5. [Service]
  6. User=ubuntu
  7. WorkingDirectory=/home/ubuntu/deepseek_project/deepseek-model
  8. ExecStart=/home/ubuntu/deepseek_project/venv/bin/gunicorn -w 4 -b 0.0.0.0:5000 app:app
  9. Restart=always
  10. [Install]
  11. WantedBy=multi-user.target
  12. # 启动服务
  13. sudo systemctl daemon-reload
  14. sudo systemctl start deepseek
  15. sudo systemctl enable deepseek
复制代码

10. 常见题目解决

端口冲突



  • 修改启动端口:
    1. flask run --port 8080
    复制代码
权限题目



  • 开放防火墙端口:
    1. sudo ufw allow 5000  # Ubuntu
    2. sudo firewall-cmd --permanent --add-port=5000/tcp  # CentOS
    复制代码
依赖缺失



  • 手动安装缺失包:
    1. pip install --no-index --find-links=./offline-packages <package_name>
    复制代码

11. 扩展功能

GPU 加速


  • 安装 NVIDIA 驱动和 CUDA Toolkit:
    1. sudo apt install nvidia-driver-535  # Ubuntu
    复制代码
  • 验证 CUDA 支持:
    1. import torch
    2. print(torch.cuda.is_available())  # 应输出 True
    复制代码
模子微调

  1. # 使用自定义数据集微调模型
  2. python3 finetune.py --model deepseek-model --data /path/to/dataset
复制代码

通过以上步调,您可以在 Linux 体系上完成 DeepSeek 的安装、配置和生产级部署。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

东湖之滨

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表