发现一个开源的Chatgpt-web应用,前端使用vue编写,后端也是nodejs代码编写 ...

莱莱  金牌会员 | 2024-6-21 13:34:39 | 显示全部楼层 | 阅读模式
打印 上一主题 下一主题

主题 573|帖子 573|积分 1719

0,演示当地启动视频,还可以配合fastcht部署chatglm3大模型

演示视频:
https://www.bilibili.com/video/BV1WC4y1k7j5/?vd_source=4b290247452adda4e56d84b659b0c8a2

     【chatglm3】(10):使用fastchat当地部署chatlgm3-6b模型,并配合chatgpt-web的漂亮界面做展示,调用乐成,vue的开源项目
  
部署脚本和方法:
https://gitee.com/fly-llm/dify-mysql-llm/tree/master/fastchat-docker-compose
1,项目地址:

https://github.com/Chanzhaoyu/chatgpt-web
ChatGPTAPI 使用 gpt-3.5-turbo-0301 通过官方OpenAI补全API模拟ChatGPT(最稳健的方法,但它不是免费的,而且没有使用针对聊天举行微调的模型)
ChatGPTUnofficialProxyAPI 使用非官方代理服务器访问 ChatGPT 的后端API,绕过Cloudflare(使用真实的的ChatGPT,非常轻量级,但依赖于第三方服务器,而且有速率限制)
2,项目启动,使用docker-compose 启动项目

  1. version: '3'
  2. services:
  3.   app:
  4.     image: chenzhaoyu94/chatgpt-web # 总是使用 latest ,更新时重新 pull 该 tag 镜像即可
  5.     ports:
  6.       - 3002:3002
  7.     environment:
  8.       # 二选一
  9.       OPENAI_API_KEY: sk-xxx
  10.       # 二选一
  11.       OPENAI_ACCESS_TOKEN: xxx
  12.       # API接口地址,可选,设置 OPENAI_API_KEY 时可用
  13.       OPENAI_API_BASE_URL: xxx
  14.       # API模型,可选,设置 OPENAI_API_KEY 时可用
  15.       OPENAI_API_MODEL: xxx
  16.       # 反向代理,可选
  17.       API_REVERSE_PROXY: xxx
  18.       # 访问权限密钥,可选
  19.       AUTH_SECRET_KEY: xxx
  20.       # 超时,单位毫秒,可选
  21.       TIMEOUT_MS: 60000
  22.       # Socks代理,可选,和 SOCKS_PROXY_PORT 一起时生效
  23.       SOCKS_PROXY_HOST: xxx
  24.       # Socks代理端口,可选,和 SOCKS_PROXY_HOST 一起时生效
  25.       SOCKS_PROXY_PORT: xxx
  26.       # HTTPS 代理,可选,支持 http,https,socks5
  27.       HTTPS_PROXY: http://xxx:7890
复制代码
  1. docker-compose up -d
  2. $ docker ps
  3. CONTAINER ID   IMAGE                            COMMAND                   CREATED         STATUS                         PORTS                                                                                  NAMES
  4. eca262c45456   chenzhaoyu94/chatgpt-web         "docker-entrypoint.s…"   7 seconds ago   Up 6 seconds                   0.0.0.0:3002->3002/tcp, :::3002->3002/tcp                                              nodeworkspace-app-1
复制代码
可以设置验证码:xxx

没有设置好key 和 证书表现:

3,设置好了之后就可以使用了

结果如下,使用最新版本的chatgpt 3.5


还可以配合当地大模型chatglm3

方法:
https://gitee.com/fly-llm/dify-mysql-llm/tree/master/fastchat-docker-compose
设置修改,修改成fastchat api 的ip地址,和端口,不用增加 v1 路径!:
  1. services:
  2.   app:
  3.     container_name: chatgpt-web
  4.     image: chenzhaoyu94/chatgpt-web # Always use latest, just pull the tag image again when updating
  5.     ports:
  6.       - 3002:3002
  7.     environment:
  8.       # pick one of two
  9.       OPENAI_API_KEY:  1234
  10.       # pick one of two
  11.       OPENAI_ACCESS_TOKEN:
  12.       # API interface address, optional, available when OPENAI_API_KEY is set
  13.       OPENAI_API_BASE_URL: http://192.168.1.116:8000
  14.       # API model, optional, available when OPENAI_API_KEY is set
  15.       OPENAI_API_MODEL: gpt-3.5-turbo
  16.       # reverse proxy, optional
复制代码
运行结果:


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

莱莱

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表