开源模型应用落地-模型影象增强-向量数据库预备-实践篇(二) ...

梦应逍遥  金牌会员 | 2024-6-19 11:46:03 | 来自手机 | 显示全部楼层 | 阅读模式
打印 上一主题 下一主题

主题 530|帖子 530|积分 1590

一、媒介

     语言模型的影象是基于其训练数据。具体而言,对于较长的文本,模型可能会遗忘较早的信息,因为它的影象是有限的,而且更容易受到最近出现的内容的影响。模型无法跨越其固定的上下文窗口,而是根据当前上下文天生回应。
     从如今开始,我们将使用Milvus向量数据库来作为语言模型长期影象的存储方式,以此提升语言模型影象信息的能力。
     相关概念参考:开源模型应用落地-影象增强系列-概念篇(一)
<hr> 二、术语

2.1.Milvus Lite

     是Milvus向量数据库的一个轻量级版本。旨在提供在资源受限的环境中快速、高效地举行向量存储和相似性搜索的能力。
     与完备版的Milvus相比,它具有以下特点:


  • 轻量级:Milvus Lite具有较小的存储占用和内存消耗,恰当在资源受限的装备上摆设和运行。
  • 快速摆设:Milvus Lite提供了简化的摆设和配置过程,使其更易于在嵌入式装备和边沿服务器上举行摆设和集成。
  • 高效的向量索引和搜索:尽管是轻量级版本,Milvus Lite仍旧提供了高效的向量索引和相似性搜索功能,以支持快速的向量数据查询。
  • 离线模式:Milvus Lite支持在离线模式下举行向量索引和搜索,无需及时毗连到远程服务器。
      
<hr> 三、条件条件

3.1. 基


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

梦应逍遥

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表