华为昇腾异构盘算架构CANN及AI芯片简介

异构盘算架构CANN

异构盘算架构CANN（Compute Architecture for Neural Networks）是华为针对AI场景推出的异构盘算架构，向上支持多种AI框架，包罗MindSpore、PyTorch、TensorFlow等，向下服务AI处理器与编程，发挥承上启下的关键作用，是提拔昇腾AI处理器盘算效率的关键平台。同时针对多样化应用场景，提供多层次编程接口，支持用户快速构建基于昇腾平台的AI应用和业务。
总结：CANN用来屏蔽底层硬件差异，使得用户能够无缝使用Pytorch等主流深度学习框架举行开发。

   图1 CANN逻辑架构  昇腾AI芯片基本架构

   图2 昇腾AI芯片基本架构  基于Ascend C开发的算子运行在AI Core上，AI Core负责执行标量、向量和张量相关的盘算密集型算子，包罗三种底子盘算单位：Cube（矩阵）盘算单位、Vector（向量）盘算单位和Scalar（标量）盘算单位，同时还包含存储单位（包罗硬件存储和用于数据搬运的搬运单位）和控制单位。
总结：AI Core是芯片的核心，用来运行算子。
AI Core耦合硬件架构

AI core硬件架构根据Cube盘算单位和Vector盘算单位是否同核部署分为耦合架构和分离架构两种，此中Atlas 训练与推理系列产品均采用耦合架构。
AI core的缓存明确：
1、GM：可以明确为显存
2、L1 Buffer：与GM交互，加载或者存储数据
3、Unified Buffer：统一缓冲区，向量和标量盘算的输入和输出。
4、Buffer L0A&L0B&L0C：专门为Cube单位设置的缓存，L0A和L0B为Cube指令的输入，L0C是Cube指令的输出。

   图3 AI Core耦合硬件架构  参考链接1：https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/80RC2alpha002/devguide/opdevg/ascendcopdevg/atlas_ascendc_10_0008.html
参考链接2：https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/80RC2alpha002/quickstart/quickstart/quickstart_18_0003.html
参考链接3：https://blog.csdn.net/m0_37605642/article/details/132780001

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。