拉不拉稀肚拉稀 发表于 2025-3-8 14:48:21

FastGPT本地知识库摆设-Ubuntu22.04

1、安装Docker Desktop

发起下载离线安装离线安装包,在线经常出现无法访问的情况;以下是软件安装地址
在线安装文档
# 安装 Docker
curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
systemctl enable --now docker
# 安装 docker-compose
curl -L https://github.com/docker/compose/releases/download/2.20.3/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose
# 验证安装
docker -v
docker-compose -v
离线下载安装包
通过网盘分享的文件:docker离线安装脚本.zip
链接: https://pan.baidu.com/s/1TaZoPjyGKSYcLwBZcXXgIw
提取码: ap59 2、创建目次

新建FastGPT文件夹
mkdir fastgpt https://i-blog.csdnimg.cn/direct/dd949df56db844a3b62b397caea3651b.png
 3、下载配置文件 

docker-compose.yml、config.json;
可以自己新建,然后再参考GitHub文档复制编辑对应配置,最开始安装的时候搞了很久,最终还是没搞定,下载官方的配置,但GitHub官方偶然候差别好访问,
# 进入目录
cd fastgpt
# 下载文件
curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json
这里我直接提供我编辑的好的文件供下载,
通过网盘分享的文件:fastgpt
链接: https://pan.baidu.com/s/1dov9CR_Z7v9kfkR1dJO4Eg
提取码: u8jr 4、拉安装镜像

以管理员身份运行cmd,并进入FastGPT目次,并实验以下命令
docker-compose pull
docker-compose up -d
看到一些done即可安装完成所需要的组件,如果哪一项出现报错,可以去检查docker-compose.yml 文件对应配置的地址是否精确;
https://i-blog.csdnimg.cn/direct/76be052e2aa34dce8d646a8fe9da6395.png
这里可以使用 docker ps 命令检察安装的端口等状态信息
https://i-blog.csdnimg.cn/direct/ed5e33ddc53e4e90a8d32a9bfc385f8f.png
5、访问 FastGPT

可以通过 127.0.0.1:3000 直接访问(或本地ip地址,防火墙对应3000端口要开放)。登任命户名为 root,密码为docker-compose.yml 环境变量里设置的 DEFAULT_ROOT_PSW;默认是1234。
https://i-blog.csdnimg.cn/direct/3e466f92760d4885acd39e5883e0b0b8.png
到看到这个页面说安装摆设乐成了。
6、快速上手

这里我直接上官方网的文档说明,上面有很清晰详细应用说明了,这里就不另做写了;
https://doc.tryfastgpt.ai/docs/course/quick-start/
7、登入one api

根据设定的端口,在欣赏器内输入127.0.0.1:3001 端口是docker-compose.yml文件界说的,我这里做了内外域名映射;默认账号:root,默认密码:123456。
https://i-blog.csdnimg.cn/direct/e3d3e0b80c614785905b9a635f6fa278.png
8、创建渠道和令牌

添加本地大模型,我这里下载了llama3.1、qwen2、还有向量模型bge-m3,这些需要在config.json文件里面先配置好,名称与one api需保持一致;(下载方式请看我其他的ollama本地摆设文章)
https://i-blog.csdnimg.cn/direct/fadb973b41ca423494fb337d27afa0e3.png
我这里还添加了GPT-4o的模型,方法一样,选择对应的范例,再添加api地址和key即可;
https://i-blog.csdnimg.cn/direct/ca4cfc80a4804531a6fa31e11491b7fc.png
9、添加令牌

名称任意取、然后选永不外期,设置无限额度。
https://i-blog.csdnimg.cn/direct/59fdbe3e01484f069f15b1bc33d8fdbe.png
10、创建应用

新建简易应用,这里选择知识库+对话引导
https://i-blog.csdnimg.cn/direct/5c88f5b71c0746889754ba8d3eeaec0e.png
这里就可以选择我们摆设的模型了,
https://i-blog.csdnimg.cn/direct/2518bf55b71f49bb800fc8dde1c063d5.png
11、总结

1、fastgpt也支持windows摆设,安装docker也比较简单,但是整个知识库向量化和对话相应速率比如Linux快;前提也是需要安装好显卡驱动和CUDA步伐;
2、docker安装Linux环境有点贫苦,可能紧张是对Linux体系操作不熟悉吧,在线安装通常无法访问,我是下载离线安装包手动安装的;
3、配置文件 docker-compose.yml、config.json的下载和配置,GitHub在国内访问太稳固,在线下载老是提示失败,后面也是提前下载好再手动修改配置的;
4、需要理解这里面的配置信息每一段的意思,不然报错了都不知道去哪里排除;
5、one api配置需要和config.json的模型名称保持一致,不然对话就会失败。


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: FastGPT本地知识库摆设-Ubuntu22.04