一起学习大语言模型-常用下令及模型介绍

打印 上一主题 下一主题

主题 1582|帖子 1582|积分 4746

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
怎样下载模型

通过ollama pull下令来下载需要的模型, 如:
  1. ollama pull qwen2.5
  2. ollama pull deepseek-r1
  3. ollama pull deepseek-r1:671b
复制代码
常用模型介绍

模型名巨细模型介绍应用场景codellama7b-70b代码生成与讨论模型,支持多语言代码任务软件开发、代码解释、编程辅助deepseek-coder1.3b-33b基于 2 万亿代码和自然语言训练的编码模型,性能接近 GPT4-Turbo代码开发、算法实现、漏洞修复gemma31b-27b单 GPU 运行的高性能模型,支持视觉任务图像识别、视觉问答、多模态交互llama27b-70bMeta 开源基础模型,支持多任务通用场景对话体系、文本生成、知识问答llama38b-70bMeta 最新开源模型,性能接近 405B 版本复杂推理、长文本处理、专业领域任务llava7b-34b多模态模型(视觉 + 语言),支持图像理解与对话视觉问答、图文生成、跨模态交互mistral7bMistral AI 发布的高效模型,更新至 0.3 版代码生成、数学推理、多语言支持phi414b微软开源的 14B 参数模型,性能领先复杂推理、长文本理解、多语言任务qwen2.50.5b-72b阿里巴巴训练的多语言模型,支持 128K 上下文窗口多语言对话、长文本处理、跨领域任务stable-code3b轻量级代码模型,性能媲美 7B 模型代码补全、算法开发、低资源环境下的编码任务vicuna7b-33b基于 Llama 的对话模型,支持 2K-16K 上下文窗口一样平常对话、客服体系、简单问答wizardlm7b-8x22b微软优化的多语言模型,擅长复杂对话和推理专业领域问答、多语言支持、复杂逻辑处理 根据官方文档建议,运行模型需要的内存巨细如下:
7b的模型需要至少8GB内存
13b的模型需要至少16GB内存
33b的模型需要至少32GB内存
一般我们本机学习开发的时候可以尝试使用这几种模型就基本够了, llama3.2:3b, qwen2.5:7b, llama3.2-vision:11b
检察已下载的本地模型

通过下令ollama list检察本地已下载的模型
检察当前正在运行的模型

通过下令ollama ps 检察当前正在运行的模型
更多的下令和环境变量检察

通过ollama -h检察支持的更多下令
通过ollama serve -h检察支持的环境变量配置

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

农民

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表