1、安装Docker Desktop
发起下载离线安装离线安装包,在线经常出现无法访问的情况;以下是软件安装地址
在线安装文档
- # 安装 Docker
- curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
- systemctl enable --now docker
- # 安装 docker-compose
- curl -L https://github.com/docker/compose/releases/download/2.20.3/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
- chmod +x /usr/local/bin/docker-compose
- # 验证安装
- docker -v
- docker-compose -v
复制代码 离线下载安装包
- 通过网盘分享的文件:docker离线安装脚本.zip
- 链接: https://pan.baidu.com/s/1TaZoPjyGKSYcLwBZcXXgIw
- 提取码: ap59
复制代码 2、创建目次
新建FastGPT文件夹
3、下载配置文件
docker-compose.yml、config.json;
可以自己新建,然后再参考GitHub文档复制编辑对应配置,最开始安装的时候搞了很久,最终还是没搞定,下载官方的配置,但GitHub官方偶然候差别好访问,
- # 进入目录
- cd fastgpt
- # 下载文件
- curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml
- curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json
复制代码 这里我直接提供我编辑的好的文件供下载,
- 通过网盘分享的文件:fastgpt
- 链接: https://pan.baidu.com/s/1dov9CR_Z7v9kfkR1dJO4Eg
- 提取码: u8jr
复制代码 4、拉安装镜像
以管理员身份运行cmd,并进入FastGPT目次,并实验以下命令
- docker-compose pull
- docker-compose up -d
复制代码 看到一些done即可安装完成所需要的组件,如果哪一项出现报错,可以去检查docker-compose.yml 文件对应配置的地址是否精确;
这里可以使用 docker ps 命令检察安装的端口等状态信息
5、访问 FastGPT
可以通过 127.0.0.1:3000 直接访问(或本地ip地址,防火墙对应3000端口要开放)。登任命户名为 root,密码为docker-compose.yml 环境变量里设置的 DEFAULT_ROOT_PSW;默认是1234。
到看到这个页面说安装摆设乐成了。
6、快速上手
这里我直接上官方网的文档说明,上面有很清晰详细应用说明了,这里就不另做写了;
https://doc.tryfastgpt.ai/docs/course/quick-start/
7、登入one api
根据设定的端口,在欣赏器内输入127.0.0.1:3001 端口是docker-compose.yml文件界说的,我这里做了内外域名映射;默认账号:root,默认密码:123456。
8、创建渠道和令牌
添加本地大模型,我这里下载了llama3.1、qwen2、还有向量模型bge-m3,这些需要在config.json文件里面先配置好,名称与one api需保持一致;(下载方式请看我其他的ollama本地摆设文章)
我这里还添加了GPT-4o的模型,方法一样,选择对应的范例,再添加api地址和key即可;
9、添加令牌
名称任意取、然后选永不外期,设置无限额度。
10、创建应用
新建简易应用,这里选择知识库+对话引导
这里就可以选择我们摆设的模型了,
11、总结
1、fastgpt也支持windows摆设,安装docker也比较简单,但是整个知识库向量化和对话相应速率比如Linux快;前提也是需要安装好显卡驱动和CUDA步伐;
2、docker安装Linux环境有点贫苦,可能紧张是对Linux体系操作不熟悉吧,在线安装通常无法访问,我是下载离线安装包手动安装的;
3、配置文件 docker-compose.yml、config.json的下载和配置,GitHub在国内访问太稳固,在线下载老是提示失败,后面也是提前下载好再手动修改配置的;
4、需要理解这里面的配置信息每一段的意思,不然报错了都不知道去哪里排除;
5、one api配置需要和config.json的模型名称保持一致,不然对话就会失败。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |