论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
IT评测·应用市场-qidao123.com技术社区
»
论坛
›
人工智能
›
人工智能
›
AIGC的算力与云边协同及应用创新
AIGC的算力与云边协同及应用创新
羊蹓狼
论坛元老
|
2024-9-14 21:10:18
|
显示全部楼层
|
阅读模式
楼主
主题
1608
|
帖子
1608
|
积分
4824
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
1)AI的新时代,生成式AI技术重新塑造AI技术的
开发
及应用
AI的新时代
:更关注怎样利用生成式AI技术在涉及数字内容的诸多领域实现改变及突破,生成式AI现实上扩大了“内容”的寄义,凡是可以数字化的内容情势均为生成对象,而非传统意义下媒体环境的内容。
AIGC财产
:新一代AI技术和理念,以“生成式AI”为代表技术的
开发
及应用财产,即怎样利用资源发挥新的AI技术的应用,通过商业代价推动AI第 三次海潮的发展。
2)纵观AI发展,算法的发展及迭代极大地拉动了算力的需求
3)量变”的算法、数据可以带来“质变”
4)算力承接算法及数据,成为AIGC财产发展基石
5)AIGC的突破依赖于算力的开释
AI技术在现实应用中包罗两个环节:练习(Training)和推理(Inference),AIGC的算力需要思量练习及推理两个方面。
• 练习是指通过数据
开发
出AI模型,使其可以或许满足相应的需求,一般为AI技术的研发。因此参数量的升级对算力的需求影响大。
• 推理是指利用练习好的模型进行计算,利用输入的数据获得正确结论的过程,一般为AI技术的应用。推理部署的算力主要在于每个应用场景日数据的吞吐量。
6)AIGC算力具备软硬件的复杂性,而且以多样性为产品/服务/方案为应用赋能
7)AIGC财产的算力是工程化效果,是从芯片到资源服务的多层次构造
• 未来大模型的财产化发展是一套复杂的系统工程,构建高效稳定的算力平台是核心要义,成熟的算法、数据财产链,配套工具链及丰富的生态链是关键因素,亟需以系统的方式探求最优解。
• 算力设备软硬件兼容性和性能调教上的Know-How,可以保证AI算力的适配性和稳定性,并非单一因素的参数能简单决定。
8)MaaS是AI新时代云服务模式的破与立,构建新的“算力+算法”服务模式
MaaS(Model as a Service)模型即服务,是指将大模型作为一项服务提供给用户使用的新业态,MaaS中模型练习(主要指微调)及推理的技术门路成 立必须依赖云计算的算力支撑,同时算力及其他资源通过MaaS模式实现AI层面上更好的代价开释。
9)MaaS提供了云服务的新模式
AIGC行业快速发展,MaaS服务契合当下AIGC财产发展,提供云服 务商业应用代价,带动团体云计算增长。
10)云边协同提拔AI落地的大概性
• 边沿计算可负责范围内的数据计算和存储工作。同时负责将一连数据汇总至计算层,最终由云计算层完身分析挖掘、数据共享工作,下发效果或模型至边沿和终端层,形成云-边-端协同。
• 边沿计算的核心代价:边沿侧完成数据的计算,而且实现云、端间的数据及计算效果的协同。边沿云及边沿芯片的发展将推动AIGC的更快落地。
11)加快智算中心建设满足智能算力的增长需求
13)“算法芯片化”结合“云边协同”,满足新AI时代的计算需求
➢ “算法芯片化”:云天励飞依附对行业的战略前瞻和持续多年的深耕布局,让算法和芯片两大技术相互配合,基于对场景的深刻理解以及对算 法关键计算任务在应用场景中的量化分析,将芯片设计者的理念、思想与算法相融合的AI芯片设计流程,为办理方案和应用场景更高效地赋能。
➢ 基于该理念,DeepEdge10边沿神经网络推理芯片在技术架构上采用架构同一的神经网络处理处罚器芯片平台和创新的指令集架构,满足大模型基 于Transformer结构所带来的新的神经网络计算范式以及高带宽传输、分布式并行计算、低精度混淆计算需求。
14)存算一体随存储器介质,高效适配Transformer结构算法
存算一体有Flash、SRAM、DRAM等传统存储介质,同时ReRAM、MRAM等新型存储介质也在快速发展,ReRAM存内计算技术未来具有非常大的应用潜力, 尤其是存算一体技术应用于大算力的领域。
15)AIGC给予了企业流程新的数字化管理思路
• 既定业务流程的建模、标准化、自动化、执行、控制、度量和优化(例如BPM)是基于现有数据交互协同的思路管理员工。
• AIGC通过办理部分交互及协同标准,可以更好地实现流程上的协同管理,但仍需企业对场景的不断探索后才能明确需求。
16)AIGC的C端垂类应用体验将进入快速探索阶段
• 思量到当下AIGC的可信性及资本的范围性,AIGC的应用在复杂度高(智能化水平),及更开放的场景实现,产品/服务体验提拔的需求推动AI落地侧应 用以及模型的迭代。
• 根据IDC数据,2022年中国数据中心用于推理的服务器的市场份额占比已颠末半,到达58.5%,预计到2026年,用于推理的工作负载将到达62.2%。未 来随着AIGC财产发展,练习侧及推理侧均具有发展潜力。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
羊蹓狼
论坛元老
这个人很懒什么都没写!
楼主热帖
一文带你走进【内存泄漏】
让你成为网络世界中有破坏力的人-HTTP ...
保举开源项目:LuCI App AdGuardHome - ...
dolphinscheduler单机化改造
day01-Tomcat框架分析
3. 视图-触发器-存储过程-索引 ...
基于 Sealos 的镜像构建能力,快速部署 ...
使用jsch进行sftp传输时遇到的问题com. ...
邮件管理数据库设计--MySQL
深入理解并发编程同步工具类 ...
标签云
AI
运维
CIO
存储
服务器
快速回复
返回顶部
返回列表