篮之新喜 发表于 2024-9-4 18:22:42

人工智能 | Mistral 大语言模子

Mistral AI

Mistral AI team

Mistral AI 是一家贩卖人工智能产品的法国公司。它由 Meta Platforms 和 Google DeepMind 的前员工于 2023 年 4 月创立。该公司于 2023 年 10 月筹集了 3.85 亿欧元,2023 年 12 月估值超过 20 亿美元
https://i-blog.csdnimg.cn/direct/b49bc3e612d446779caadc3b0c77da6d.png
Mistral.AI 愿景与使命

我们是一个具有高科学标准的小型创意团队。我们通过突破性的创新打造开放、高效、有用且值得信赖的人工智能模子。我们的使命是让前沿人工智能无处不在,为所有建立者提供量身定制的人工智能。这必要强烈的独立性,对开放、便携和可定制办理方案的坚定允许,以及对在有限时间内交付最先进技能的高度关注。
https://i-blog.csdnimg.cn/direct/d7d87f4a5da74b2fae9e5cf1ec5eb771.png
在线 Chat 服务 Le Chat

https://i-blog.csdnimg.cn/direct/63b8e9fc5929453280263ebf7143ba7a.png
https://i-blog.csdnimg.cn/direct/f971b9e943c44064a4c42029c67d14bd.png
开源大语言模子 Mistral Mixtral

https://i-blog.csdnimg.cn/direct/787b71e440ab408a8c0eaa4d67a45c07.png
https://i-blog.csdnimg.cn/direct/a0495c737dd6495c9948739f7ab35ffa.png
Mistral 大语言模子

Mistral-7B



[*]Mistral-7B 大型语言模子 (LLM) 是一个预训练的生成文本模子,具有 70 亿个参数。
[*]在所有基准测试中均优于 Llama 2 13B
[*]在许多基准测试中均优于 Llama 1 34B
[*]接近 CodeLlama 7B 的代码性能,同时保持良好的英语任务体现
[*]使用分组查询注意力 (GQA) 进行更快的推理
[*]使用滑动窗口注意 (SWA) 以较小的成本处理惩罚较长的序列
mistral 与 llama 的对比

https://i-blog.csdnimg.cn/direct/62365d3a26e343b586a90423a1d6cc41.png
基于 Hugging Face Transformers 使用 mistral

## Use a pipeline as a high-level helper
from transformers import pipeline

def test_mistral():
    pipe = pipeline("text-generation", model="mistralai/Mistral-7B-Instruct-v0.2")
    pipe("请为google编写web自动化测试用例,使用pytest page object设计模式,断言使用hamcrest")
使用 langchain 调用 mistral

def test_mistral():
    llm = Ollama(model="mistral", base_url="http://localhost:11434")
    r = llm.invoke('请为google编写web自动化测试用例,使用pytest page object设计模式,断言使用hamcrest')
    debug(r)
Mixtral 大语言模子

Mixtral 大语言模子介绍

这是一种具有开放权重的高质量稀疏专家混合模子 (SMoE)。根据 Apache 2.0 许可。Mixtral 在大多数基准测试中都优于 Llama 2 70B,推理速率提高了 6 倍。它是最强盛的开放权重模子,具有宽松的许可证,也是成本/性能权衡方面的最佳模子。特别是,它在大多数标准基准测试中匹配或优于 GPT3.5。
https://i-blog.csdnimg.cn/direct/88348e1803bc4bd5ac55140af9aa011e.png
Mixtral 的特点



[*]可以优雅地处理惩罚 32k 令牌的上下文。
[*]可以处理惩罚英语、法语、意大利语、德语和西班牙语。
[*]在代码生成方面体现出强盛的性能。


基于 Hugging Face Transformers 使用 mixtral

## Use a pipeline as a high-level helper
from transformers import pipeline

def test_mixtral():
    pipe = pipeline("text-generation", model="mistralai/Mixtral-8x7B-Instruct-v0.1")
    pipe("请为google编写web自动化测试用例,使用pytest page object设计模式,断言使用hamcrest"))
使用 langchain 调用 mixtral

def test_mixtral():
    llm = Ollama(model="mixtral", base_url="http://localhost:11434")
    r = llm.invoke('请为google编写web自动化测试用例,使用pytest page object设计模式,断言使用hamcrest')
    debug(r)
https://i-blog.csdnimg.cn/direct/f82cab81f9f64da08824ef63864462ba.png#pic_center
推荐学习

【霍格沃兹测试开辟】7天软件测试快速入门带你从零底子/转行/小白/就业/测试用例计划实战
【霍格沃兹测试开辟】最新版!Web 主动化测试从入门到醒目/ 电子商务产品实战/Selenium (上集)
【霍格沃兹测试开辟】最新版!Web 主动化测试从入门到醒目/ 电子商务产品实战/Selenium (下集)
【霍格沃兹测试开辟】明星讲师精心打造最新Python 教程软件测试开辟从业者必学(上集)
【霍格沃兹测试开辟】明星讲师精心打造最新Python 教程软件测试开辟从业者必学(下集)
【霍格沃兹测试开辟】佳构课合集/ 主动化测试/ 性能测试/ 精准测试/ 测试左移/ 测试右移/ 人工智能测试
【霍格沃兹测试开辟】腾讯/ 百度/ 阿里/ 字节测试专家技能沙龙分享合集/ 精准化测试/ 流量回放/Diff
【霍格沃兹测试开辟】Pytest 用例结构/ 编写规范 / 免费分享
【霍格沃兹测试开辟】JMeter 实时性能监控平台/ 数据分析展示系统Grafana/Docker 安装
【霍格沃兹测试开辟】接口主动化测试的场景有哪些?为什么要做接口主动化测试?如何一键生成测试报告?
【霍格沃兹测试开辟】口试本领指导/ 测试开辟本领评级/1V1 模仿口试实战/ 冲刺年薪百万!
【霍格沃兹测试开辟】腾讯软件测试本领评级标准/ 要评级表格的联系我
【霍格沃兹测试开辟】Pytest 与Allure2 一键生成测试报告/ 测试用例断言/ 数据驱动/ 参数化
【霍格沃兹测试开辟】App 功能测试实战快速入门/adb 常用命令/adb 压力测试
【霍格沃兹测试开辟】阿里/ 百度/ 腾讯/ 滴滴/ 字节/ 一线大厂口试真题讲解,卷完拿高薪Offer !
【霍格沃兹测试开辟】App主动化测试零底子快速入门/Appium/主动化用例录制/参数配置
【霍格沃兹测试开辟】如何用Postman 做接口测试,从入门到实战/ 接口抓包(最新最全教程)

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: 人工智能 | Mistral 大语言模子