FastGPT本地知识库摆设-Ubuntu22.04

打印 上一主题 下一主题

主题 925|帖子 925|积分 2777

1、安装Docker Desktop

发起下载离线安装离线安装包,在线经常出现无法访问的情况;以下是软件安装地址
在线安装文档
  1. # 安装 Docker
  2. curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun
  3. systemctl enable --now docker
  4. # 安装 docker-compose
  5. curl -L https://github.com/docker/compose/releases/download/2.20.3/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
  6. chmod +x /usr/local/bin/docker-compose
  7. # 验证安装
  8. docker -v
  9. docker-compose -v
复制代码
离线下载安装包
  1. 通过网盘分享的文件:docker离线安装脚本.zip
  2. 链接: https://pan.baidu.com/s/1TaZoPjyGKSYcLwBZcXXgIw
  3. 提取码: ap59
复制代码
2、创建目次

新建FastGPT文件夹
  1. mkdir fastgpt
复制代码

 3、下载配置文件 

docker-compose.yml、config.json;
可以自己新建,然后再参考GitHub文档复制编辑对应配置,最开始安装的时候搞了很久,最终还是没搞定,下载官方的配置,但GitHub官方偶然候差别好访问,
  1. # 进入目录
  2. cd fastgpt
  3. # 下载文件
  4. curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml
  5. curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json
复制代码
这里我直接提供我编辑的好的文件供下载,
  1. 通过网盘分享的文件:fastgpt
  2. 链接: https://pan.baidu.com/s/1dov9CR_Z7v9kfkR1dJO4Eg
  3. 提取码: u8jr
复制代码
4、拉安装镜像

以管理员身份运行cmd,并进入FastGPT目次,并实验以下命令
  1. docker-compose pull
  2. docker-compose up -d
复制代码
看到一些done即可安装完成所需要的组件,如果哪一项出现报错,可以去检查docker-compose.yml 文件对应配置的地址是否精确;

这里可以使用 docker ps 命令检察安装的端口等状态信息

5、访问 FastGPT

可以通过 127.0.0.1:3000 直接访问(或本地ip地址,防火墙对应3000端口要开放)。登任命户名为 root,密码为docker-compose.yml 环境变量里设置的 DEFAULT_ROOT_PSW;默认是1234。

到看到这个页面说安装摆设乐成了。
6、快速上手

这里我直接上官方网的文档说明,上面有很清晰详细应用说明了,这里就不另做写了;
https://doc.tryfastgpt.ai/docs/course/quick-start/
7、登入one api

根据设定的端口,在欣赏器内输入127.0.0.1:3001 端口是docker-compose.yml文件界说的,我这里做了内外域名映射;默认账号:root,默认密码:123456。

8、创建渠道和令牌

添加本地大模型,我这里下载了llama3.1、qwen2、还有向量模型bge-m3,这些需要在config.json文件里面先配置好,名称与one api需保持一致;(下载方式请看我其他的ollama本地摆设文章)

我这里还添加了GPT-4o的模型,方法一样,选择对应的范例,再添加api地址和key即可;

9、添加令牌

名称任意取、然后选永不外期,设置无限额度。

10、创建应用

新建简易应用,这里选择知识库+对话引导

这里就可以选择我们摆设的模型了,

11、总结

1、fastgpt也支持windows摆设,安装docker也比较简单,但是整个知识库向量化和对话相应速率比如Linux快;前提也是需要安装好显卡驱动和CUDA步伐;
2、docker安装Linux环境有点贫苦,可能紧张是对Linux体系操作不熟悉吧,在线安装通常无法访问,我是下载离线安装包手动安装的;
3、配置文件 docker-compose.yml、config.json的下载和配置,GitHub在国内访问太稳固,在线下载老是提示失败,后面也是提前下载好再手动修改配置的;
4、需要理解这里面的配置信息每一段的意思,不然报错了都不知道去哪里排除;
5、one api配置需要和config.json的模型名称保持一致,不然对话就会失败。


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

拉不拉稀肚拉稀

金牌会员
这个人很懒什么都没写!
快速回复 返回顶部 返回列表