贾维斯的开端形态——利用Ollama搭建属于自己的大模型,个人或者工作室,也 ...

打印 上一主题 下一主题

主题 556|帖子 556|积分 1668

“一千个读者就有一千个哈姆雷特”就是仁者见仁,智者见智的意思。来自英国剧作家威廉·莎士比亚的一句名言,英文原文是There are a thousand Hamlets in a thousand peoples eyes.
  
  意思是:每个人对这部作品的解读、赏析和看法都不一样,所以每个人都有自己的观点。
  
  翻译成人话,可以说:仁者见仁,智者见智。
  一、引子
做为一个技能开发人员,看过《钢铁侠》电影后,除了敬佩钢铁侠足够中二,以及其“侠之大者,为国为民”的家国情怀后,最喜欢的还是他的智能管家——JARVIS。
做为科幻电影,老贾的全名是一个很土的称谓——Just A Rather Very Intelligent System(只是一个相当智慧的智能系统)。但在ChatGPT出现之前,不管是天猫精灵,小爱同砚,还是水果曾经“遥遥领先”的Siri,都谈不是人工智能。乃至对于一些相对专业的题目,还完全相当于人工智障。

二、实现老贾开端形态
自从有了ChatGPT, 可以说技能人员的理想在逐步照进实际了。
前面一年多,虽然我也在一直看相干的技能和实现,但是一直没有脱手操纵过什么。一是由于相干的技能都是国外人在热炒,吹牛逼谁都会,真正能用到实际应用中,肯定另有很长的一段路要走;二是前期对于人工智障们的相干研究,还是有肯定的心理阴影。所以也就打定主意,不比及明显进步,我是不会脱手的。
但是,没比及OpenAI进一步自证自己有多牛X,反而等来了他自己关上了门,尤其是他对于国内(所谓的不友好国家)的不友好态度,更是让人扫兴。
转机出现在llama3.1……
1、llama3.1和他的几个朋侪们
最近发布的llama3.1,据发布时吹的牛X说已经逾越ChatGPT4。同时,市面上同步的在发布的几个大模型也都竞相体现一样,谷歌的Gemma2, 阿里的Qwen2, 都号称自己性能有多好,参数有多多,最紧张的是,这些大模型都可以自由下载,自由部署,还可以自己训练成完全属于自己的大模型。


所以,看到这些信息后,我以为——是时间搞自己的智能管家,JARVIS了。

2、开端架构——Ollama + Open WebUI
Ollama 是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而计划。
Ollama非常方便,几行下令就可以部署完毕,一行代码就可以拉取大模型,并在自己的机器上跑起来。
但是他跑起来的结果是如许的:

果然,很多技能人员的世界很苍白啊。这么强大的一个工具,末了实现的结果竟然是个下令行结果。所以他还得必需有一个前端界面工具。
能实现前端的界面工具有很多,在Ollama的仓库底部,就有很多实现的保举:

但我们第一次实验嘛,还是想实验保举人最多的——Open WebUI

在部署相干环境和安装的过程中,也发现了很多坑。这个放在下一篇文章中介绍吧。
安装好以后,做个测试吧。
以技能相干的题目来做测试,还是很可靠的。但要是以百度弱智吧的题目来问,那大模型还是非常显智障属性的。

关于大模型的使用。
个人以为,在大模型出现之初,很多公司(尤其是开发公司)不允许员工使用相干功能,提高工作服从。
虽然这个题目很明显,技能相干的题目,大模型答复的还是相对正确的。也说明这对于技能人员提高工作服从是非常有资助的。但是,在你提问的同时,是不是自己公司的技能焦点也就提供给了相干大模型公司。
至于提交的后果是什么,供大模型深度学习?走漏自己公司的焦点代码?是不是相干的隐患就非常多了。
这么想想,自己有自己的大模型,在上关技能逐渐丰富,可以大概稳定提高工作服从的当下,还是非常有须要的。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

正序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

熊熊出没

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表