Llama 3 Agent 本领体验+微调(Lagent 版)
微调过程
本次实行基于AutoDL平台使用A40显卡做的实行,使用 XTuner 在 Agent-FLAN 数据集上微调 Llama3-8B-Instruct,以让 Llama3-8B-Instruct 模子得到智能体本领。Agent-FLAN数据集是上海人工智能实行室 InternLM 团队所推出的一个智能体微调数据集,其通过将原始的智能体微调数据以多轮对话的方式举行分解,对数据举行本领分解并均衡,以及加入负样本等方式构建了高效的智能体微调数据集,从而可以大幅提升模子的智能体本领。
情况的设置
起首创建一个cuda假造情况,下令如下:
- conda create -n llama3 python=3.10
- conda activate llama3
- pip install torch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 --index-url https://download.pytorch.org/whl/cu118
复制代码 检察安装的情况包
安装Git
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!qidao123.com:ToB企服之家,中国第一个企服评测及软件市场,开放入驻,技术点评得现金 |