15天学会AI应用开发(一)搭建AI大模子应用开发环境

[复制链接]
发表于 昨天 11:21 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
​AI大模子期间来了,步伐员们纷纷入坑AI应用开发,但是苦于AI教程良莠不齐,每每泯灭了大量时间精力和款子,却仍旧过其门而不入。有鉴于此,博主开始连载AI应用开发教程《15天学会AI应用开发》,资助各人快速把握AI应用开发技能,不掉坑、不迷路、有劳绩。
一、学习AI应用开发的四大困难

在入坑AI应用开发之时,孤立无援的开发者面对着下列四个拦路虎:
1、个人电脑跑不动AI大模子应用。众所周知,大模子很吃CPU和内存,推理过程又必要GPU,但是个人电脑哪有那么高端的设置呢?
2、AI开发环境的软件版本兼容性。多数AI应用基于Python开发环境,但Python版本过低大概过高都会导致依赖的AI库无法正常运行。
3、在线AI大模子的Token高斲丧。AI应用只是个外壳,焦点的推理功能必要调用大模子,但在线大模子的Token斲丧很快,初学者无法蒙受快速上涨的账单。
4、AI课程大纲用到许多专业词汇。许多AI课程一上来就是各种专业词汇,比方LLM、Prompt、RAG、Langchain、Graph、Vector、LIamaIndex、Agent、Workflow、LangGraph、Tansformer、Hugging等等,既烧脑又吓人,让人战战兢兢、如履薄冰。
这四个拦路虎看着可骇,实际上都是纸老虎,只要把握了准确的学习姿势,就能轻轻松松打败它们,且待博主细细道来。
二、个人电脑也能跑AI大模子应用

对于初学者而言,既不必要在本地电脑摆设大模子,也不必要摆设开源框架百口桶,只要能跑通AI应用的根本流程就行。
以是个人电脑应付底子的AI应用开发已经富足,内存仅需8-16G,也不要GPU,就跟寻常使用IDEA开发Java步伐一样,无需担心电脑设置带不动AI应用。
三、安装好指定版本的AI开发环境

AI开发环境的Python版本首选Python 3.10.x,该版本兼容全部 AI 库(torch、llama-index、langchain、langgraph、ollama),也没有新版本的奇怪Bug。Python 3.11.x也可以,但3.10 更稳。至于Python 3.8、3.9、3.12、3.13等等就不思量了,由于这些版本不兼容许多AI库,常常各种报错。
Python 3.10.11(Windows 64 位)的下载页面为 https://www.python.org/downloads/release/python-31011/ ,也可直接访问博主提供的下载链接 https://www.alipan.com/s/sLDCxCjF3A9 。安装时Python时注意肯定要勾选“Add Python to PATH”。
Python代码的开发工具PyCharm可以选择社区版的PyCharm 2024.1 / 2023.3 / 2022.2 ,PyCharm版本过低会不支持Python 3.10,版本过高会很斲丧电脑资源。
PyCharm的下载页面为 https://www.jetbrains.com/pycharm/download/?section=windows ,也可直接访问博主提供的下载链接 https://www.alipan.com/s/nZ6eXAzA4Jo ,注意该链接为Windows版本。
AI应用在加载离线大模子时用到了 Ollama ,它的安装包比力大,有1.8G左右,AI应用的智能体开发必须安装Ollama。
Ollama的下载页面为 https://ollama.com/download ,但外网速率较慢下载很耗时,发起访问博主提供的下载链接 https://www.alipan.com/s/gkea9rqEDTU 。
四、全部接纳离线大模子,零Token

网上许多AI应用代码要么直连外网大模子,要么毗连国内大模子。但是外网的网络环境很不稳固,部门外网服务乃至克制国内IP访问。国内的在线大模子只提供有限的Token,多问几个标题很轻易就用光了,于是超额的Token要别的付费,学不起根本学不起。
本教程的AI应用代码全部接纳离线大模子,开发者只需根听分析提前把大模子文件下载到本地,后续就能直接调用电脑上的离线大模子,不消付费完全零Token,可有用低落初学者的学习资本。
五、直接上可运行、有问答交互的代码

AI应用开发确实引入了许多概念和专业术语,如果一上来就对初学者先容各种概念是什么,轻易让人云里雾里发呆发懵。
倒不如先把代码跑起来,以寥寥数行的极简代码观察运行结果,通过实际结果来表明相干概念,让人更明白每个概念都是干什么用的,真正做到借助极简代码来明白概念,再代码编写中熟悉概念。
尤其是可运行、有问答交互的代码,开发者输入各种标题,可以直观地看到AI的问答结果,就能在实战中发现标题并渐渐调优,一步一步把握AI应用从低级到高级的开发技能。
本系列的AI应用开发文章目次为《15天学会AI应用开发全目次(零底子小白,零Token斲丧)》。

免责声明:如果侵犯了您的权益,请联系站长及时删除侵权内容,谢谢合作!qidao123.com:ToB企服之家,中国第一个企服评测及软件市场,开放入驻,技术点评得现金.
回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表