【当地私有化部署】开源大模子部署完备教程：LangChain + Streamlit+ Llama

在过去的几个月里，大型语言模子(llm)获得了极大的关注，这些模子创造了令人高兴的远景，特别是对于从事聊天呆板人、个人助理和内容创作的开辟职员。

大型语言模子(llm)是指能够天生与人类语言非常相似的文本并以自然方式明白提示的呆板学习模子。这些模子利用广泛的数据集举行训练，这些数据集包括书籍、文章、网站和其他泉源。通过分析数据中的统计模式，LLM可以猜测给定输入后最大概出现的单词或短语。

目前的LLM的一个全景图
在本文中，我将演示怎样利用LLaMA 7b和Langchain重新开始创建本身的Document Assistant。
配景知识

在这篇文章中，我将展示重新开始创建本身的文档助手的过程，利用LLaMA 7b和Langchain，一个专门为与LLM无缝集成而开辟的开源库。
以下是该博客的结构概述，概述了具体的章节，将具体介绍该过程：

• 设置虚拟环境和创建文件结构。
  
• 在你的当地呆板上设置LLM。
  
• 将LLM与LangChain整合并定制PromptTemplate。
  
• 文件检索和答案天生。
  
• 利用Streamlit建立应用程序。
  

1、LangChain