论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
ToB企服应用市场:ToB评测及商务社交产业平台
»
论坛
›
虚拟化.超融合.云计算
›
虚拟化与私有云
›
大模型落地应用正在改变云盘算行业的竞争 ...
大模型落地应用正在改变云盘算行业的竞争
大连密封材料
金牌会员
|
2024-7-15 06:17:50
|
显示全部楼层
|
阅读模式
楼主
主题
603
|
帖子
603
|
积分
1809
现在,大模型在财产端落地的模式重要有两种,一种是企业举行私有化部署,这种模式的安全性和隐私性较高,但企业必要非常高昂的算力成本;另一种是企业通过公有云+API调用的模式,成本更低,灵活性也更高。在金融、医疗等对安全性和合规性要求较高的领域,一些企业选择了私有化部署,但在更广泛的领域中,公有云+API调用模式成为企业利用大模型的主流方式。
这种全新的需求也在改变云盘算行业的竞争方向。
在2024亚马逊云科技中国峰会上,亚马逊云科技环球企业战略总经理Ishit Vachhrajani担当媒体采访时表现,没有云服务,生成式AI是很难被企业采用的。以是,对云盘算厂商来说,以大模型为代表的生成式AI是一个有利因素,也会让越来越多企业选择上云。
百度首创人李彦宏此前也表现,大模型是Game Changer,它会彻底改变云盘算的游戏规则。过去,云盘算重要卖算力,看速率、看存储。今天,客户购买云服务,是要看框架好不好、模型好不好,而不是仅仅看算力怎么样。
大模型带来的这部分增量市场也成为云盘算厂商争夺的重点之一。无论是环球云盘算巨头亚马逊云科技,照旧国内几家云盘算厂商阿里云、火山引擎、百度智能云等,都在售卖公有云+API调用的服务模式。
在竞争的过程中,一些云盘算厂商重点在构建更加丰富和开放的大模型生态,以提升竞争力。比如,亚马逊云科技通过Amazon Bedrock接入了包罗Llama,Mistral,Stable Diffusion等着名的开源模型和Anthropic Claude 3系列模型,以及AI21labs Jurassic,Cohere Command,Amazon Titan模型等闭源的模型。同时,其还在中国峰会上公布,中国区将通过SageMaker JumpStart接入百川智能提供的底子模型Baichuan2-7B和零一万物提供的底子模型Yi-1.5 6B/9B/34B。而阿里云百炼平台上,也汇聚通义、百川、ChatGLM、Llama系列等上百款国内外模型。
Ishit表现,对企业客户来说,选择哪一个底子模型是一个非常关键的问题。企业通过API调用,可以用一个非常简单的技能框架去评估每一个模型,来选择最符合自己业务的模型。
据了解,Amazon Bedrock中的模型评估功能,支持公开标准及企业自定义标准,可以帮企业基于测试集在几个小时之内快速分析和比较多个大模型,评估模型在关键指标上的表现,从而选择最得当其应用场景的模型。
另一方面,云盘算厂商也在通过降低企业利用大模型的成本和门槛,来吸引更多企业上云。
近期,通义千问、豆包等大模型都通过贬价降低企业客户利用门槛。其中,通义千问和豆包把主力模型的价格降低了一个数量级,文心大模型把两款模型API免费开放。同时,阿里云本年还把全线云产品售价下调,均匀贬价幅度凌驾20%,最高降幅达55%。
阿里云智能集团资深副总裁、公共云古迹部总裁刘伟光此前表现,公共云的技能红利和规模效应,带来巨大的成本和性能优势。即便是同样的开源模型,在公共云上的调用价格也远远低于私有化部署。以利用Qwen-72B开源模型、每月1亿tokens用量为例,在阿里云百炼上直接调用API每月仅需600元,私有化部署的成本均匀每月超1万元。
随着企业利用大模型成本的降低,按照他的预计,将来大模型API的调用量会有成千上万倍的增长。
而从大模型的竞争来看,大模型和头部云盘算厂商深度绑定的模式也越来越主流。在国内市场,阿里、字节、腾讯、百度等互联网大厂都采取了自研大模型的路线,自研大模型和自家云盘算服务深度绑定,同时一些平台也支持更多第三方大模型的API调用;在环球市场,亚马逊云科技通过投资和Anthropic深度绑定,微软通过投资和OpenAI深度绑定。这种模式也让大模型逐渐成为几家互联网巨头之间的游戏。
现在,国内云盘算行业的格局正在重构,一个新趋势是IaaS+PaaS的市场集中度逐年下降。这对于各家厂商来说,是挑战和机遇共存的时期。
IDC最新发布《中国公有云服务市场(2023下半年)跟踪》报告表现,IaaS前五市场份额总和为70.8%,市场集中度同比下降2.0%。PaaS市场份额总和64.9%,市场集中度同比下降1.5%。IaaS市场中,阿里云、华为云、天翼云、腾讯云和移动云为市场排名前五。PaaS市场中,阿里云、腾讯云、华为云、AWS和中国电信为市场排名前五。
不光是国内几家互联网大厂在公有云+大模型API调用上投入更多资源,亚马逊云科技也在中国市场举行更多投入。即将上任亚马逊云科技环球CEO的Matt Garman在2024亚马逊云科技中国峰会表现,中国是亚马逊云科技环球最具战略重要性的地区之一。而亚马逊环球副总裁、亚马逊云科技大中华区总裁储瑞松称,亚马逊云科技现在在中国的业绩稳步增长。
一位国内云盘算行业从业者表现,企业上云之后再更换云服务商的成本较高,以是云盘算厂商即使短期之内不赚钱也愿意先把客户吸引过来,而现在正是云盘算厂商争夺大模型企业客户的关键时期。
Ishit也谈到,亚马逊云科技在追求利润上应该秉持一个更长远的观点。其当下的宗旨是帮助客户解决他们的问题和挑战,如果能做到这两点,业务利润自然就会到来
读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用
对于0底子小白入门:
如果你是零底子小白,想快速入门大模型是可以考虑的。
一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习操持和方向。
包罗:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型册本PDF。带你从零底子系统性的学好大模型!
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
正序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
发新帖
回复
大连密封材料
金牌会员
这个人很懒什么都没写!
楼主热帖
rk3399pro移植openharmony3.0移植笔记2 ...
Postgres14.4(Docker安装)
Java EnumMap putAll()方法具有什么功 ...
使用git&GitHub通过两台电脑协同作业, ...
Fastjson反序列化
java结构之顺序结构
最新系统MacOs13 Ventura(M1/M2芯片) + ...
读SQL进阶教程笔记14_SQL编程要点 ...
ClickHouse(02)ClickHouse架构设计介绍 ...
这是啥SQL,室友看了人傻了
标签云
挺好的
服务器
快速回复
返回顶部
返回列表