如何将AI模子高效转换为RV1126格式,实现极速推理!

饭宝  论坛元老 | 2024-12-17 02:25:56 | 显示全部楼层 | 阅读模式
打印 上一主题 下一主题

主题 1038|帖子 1038|积分 3114

1 先容

在边沿盘算和嵌入式装备中,如何高效地运行深度学习模子是一个关键题目。RV1126 芯片依附其强大的 AI 加速本领,成为许多嵌入式装备和边沿盘算应用的首选平台。为了使模子可以或许在 RV1126 上高效运行,我们需要将原始深度学习模子转换为 .rknn 格式。本文将通过一个具体的例子——MobileNetV2——一步步引导你完成从模子转换到推理摆设的全过程。
2 模子转换步骤

2.1 情况准备



  • 物理机情况:Ubuntu 18.04 x86_64
  • RKNN版本:

    • rknn-toolkit版本:1.7.5
    • rknpu驱动版本:1.7.3


   模子转换情况搭建则可以访问【RV1126 RKNN-Toolkit情况搭建】。
  2.2 模子转换流程

2.2.1 深度学习模子转换流程

   模子转换目前有两种流程,一种是以onnx作为中心表达,进行模子转换;一种是直接使用练习框架生存的文件进行rknn模子转换。
  

2.2.2 RKNN模子转换流程


2.3 模子转换

1、激活conda情况:
  1. conda activate rv1126
复制代码
2、执行脚本进行模子转换:
  1. cd /home/ros/Downloads/project/deployed/rk/rv1126/rknn-toolkit-1.7.5/rknn_model_zoo/examples/mobilenet/python
  2. python mobilenet.py --model ../model/mobilenetv2-12.onnx --target rv1126
复制代码
3 结果展示

4 技能交换

4.1 QQ交换:



  • RKNN非官方交换:909472035

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

饭宝

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表