qidao123.com技术社区-IT企服评测·应用市场

标题: 华为昇腾Ascend系列之 01 什么是昇腾芯片？AIGC海潮已至，进一步推动对芯 [打印本页]

作者: 惊雷无声 时间: 2024-9-16 20:53
标题: 华为昇腾Ascend系列之 01 什么是昇腾芯片？AIGC海潮已至，进一步推动对芯
什么是昇腾Ascend 910、Ascend 910B

昇腾 310 和 910 处置惩罚器为华为AI 算力范畴焦点产品，910 单卡 Int8 算力大抵可达 0.6 P，最大功耗为 300W，已可对标国际主流 GPU。且昇腾计算产业在硬件方面坚持“硬件开放”战略，通过自有硬件和合作硬件相团结的方式，可为客户提供多样化的算力选择。
为什么须要昇腾芯片

AIGC海潮已至，进一步推动对芯片和算力的需求。当下，由于互联网公司、云计算提供商和企业客户都迫切盼望将生成式AI应用到自身业务中，算力供应短缺的问题已经成为行业的普遍热点。
GPT3.5 对应数千张 H100，多模态需求再提拔数倍至十倍。

GPT3.5 同级别模型约须要数千张 H100 举行训练。针对他们与 GPT3.5 相称的大语言模型，其使用了大约 3500 张 H100 举行训练。同时，对于初创公司而言，其须要数千张 H100 对大语言模型举行训练，须要几十张或者小几百张 H100 做微调。思量 H100 价格约为 3-4 万美元/张，对用算力投入约为近亿美元。H100 价格约合人民币 24 万元，对应 3-4 万美元/张。投入在 3500 张级别，对应总投入或约为近亿美元。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

欢迎光临 qidao123.com技术社区-IT企服评测·应用市场 (https://dis.qidao123.com/)