论坛 › Oracle › 利用S32DS摆设Tensorflow lite到S32K3

惊雷无声 发表于 2025-10-27 20:48:45

利用S32DS摆设Tensorflow lite到S32K3

一、概述

1、本文重要先容怎样用S32DS在NXP S32K344 中摆设Tensorflow；
2、示例利用了Tensorflow入门代码，重要功能是辨认28 * 28 的手写图片的数字；
3、在MCU上开启DSP功能后，终极运行时间在 7ms（64神经元），正确率在 90%左右；
4、Tensorflow Lite Micro为嵌入式情况运行的计划，参考以下链接：
开始利用 TensorFlow Lite
二、资源需求

1、库文件

库文件资源地点分析CMSIS 6Release CMSIS 6.1.0 · ARM-software/CMSIS_6 · GitHubARM提供，会利用部门头文件CMSIS-NNhttps://codeload.github.com/ARM-software/CMSIS-NN/zip/refs/heads/mainARM提供ARM Cortex-M 系列微控制器计划的神经网络库CMSIS-DSPRTE_Components.h在micro_time.cpp中调用，可手动修改
https://github.com/ARM-software/CMSIS-DSP/tree/mainARM提供，DSP运算库tensorflow-lite-microhttps://codeload.github.com/tensorflow/tflite-micro/zip/refs/heads/mainGoogle tensorflowlite底子版，同宗永好，可以借点东西tensorflow-lite-microhttps://www.keil.arm.com/packs/tensorflow-lite-micro-tensorflow/versions/ ARM提供的tensorflowlite ARM版，我们用这个，直接解压缩利用
Flatbuffershttps://github.com/google/flatbuffers/tree/masterGemmlowp头文件低精度盘算
https://github.com/google/gemmlowp/tree/masterRuyinstrumentation.h 必要Ruy中提供，矩阵盘算
https://github.com/google/ruy 2、软件工具

工具形貌S32DS3.4版本，GCC 10.2编译Python3.7版本VS Code + copilot可选，测试步伐由AI帮助天生，再手动修改豆包碰到不会的问问他吧，比自己查资料快多了Tensorflow2.x 呆板学习模子构建Netron可选，打开tflite文件Trace32和 Lauterbach.rc可选，Python利用trace32，更新输入数据（原始数据28*28很大）
三、模子制作

1、呆板学习模子

参考 关于TensorFlow | TensorFlow中文官网
import tensorflow as tf
import os

curr_path = os.path.dirname(__file__)
model_path = os.path.join(curr_path, 'model.tflite')

mnist = tf.keras.datasets.mnist
(x_train, y_train),(x_test, y_test) = mnist.load_data()
x_train, x_test = x_train / 255.0, x_test / 255.0
first_index_data = x_train

# 128 = 12ms
# 64 = 7ms
model = tf.keras.models.Sequential([
tf.keras.layers.Flatten(input_shape=(28, 28)),
tf.keras.layers.Dense(64, activation='relu'),
tf.keras.layers.Dropout(0.2),
tf.keras.layers.Dense(10, activation='softmax')
])

model.compile(optimizer='adam',
loss='sparse_categorical_crossentropy',
metrics=['accuracy'])

model.fit(x_train, y_train, epochs=5)
model.evaluate(x_test, y_test)

# 计算需要的缓存大小，main.cc 会设置
total_memory = 0
for layer in model.layers:
for tensor in layer.weights:
    shape = tensor.shape
    element_size = tensor.dtype.size
    tensor_memory = 1
    for dim in shape:
      if dim is not None:
      tensor_memory *= dim
    tensor_memory *= element_size
    total_memory += tensor_memory
print(f"Estimated memory usage: {total_memory} bytes")

# 转换模型
converter = tf.lite.TFLiteConverter.from_keras_model(model)
tflite_model = converter.convert()

# 保存转换后的模型
with open(model_path, 'wb') as f:
    f.write(tflite_model) 2、转换模子

缓存区巨细和转换成TFlite 模子由AI天生。
converter = tf.lite.TFLiteConverter.from_keras_model(model)
tflite_model = converter.convert()
3、量化

天生模子数组，在嵌入式软件中调用。下列脚本生存到model.cc中。
第一种方法：
Convert.py 实现，该脚本由豆包天生
import numpy as np
import tensorflow as tf
import os

curr_path = os.path.dirname(__file__)
model_path = os.path.join(curr_path, 'model.tflite')
output_path = os.path.join(curr_path, 'model.cc')

def convert_tflite_to_c_array(tflite_model_path, output_c_file_path):
    # Load the TFLite model
    with open(tflite_model_path, 'rb') as f:
      tflite_model = f.read()

    # Convert the model to a numpy array
    model_array = np.frombuffer(tflite_model, dtype=np.uint8)

    # Create the C array as a string
    c_array_str = "const unsigned char model_data[] = {\n"
    c_array_str += ',\n'.join('    ' + ', '.join(f'0x{byte:02x}' for byte in model_array) for i in range(0, len(model_array), 12))
    c_array_str += "\n};\n"
    c_array_str += f"const unsigned int model_len = {len(model_array)};\n"

    # Write the C array to the output file
    with open(output_c_file_path, 'w') as f:
      f.write(c_array_str)


# Example usage
convert_tflite_to_c_array(model_path, output_path)
print(f"Model converted to C array and saved to {output_path}") 第二种方法：
很多微控制器平台没有当地文件体系的支持。从步伐中利用一个模子最简朴的方式是将其以一个 C 数组的情势包罗并编译进你的步伐。
xxd是个工具（linux/Cygwin/git等中包罗）
四、嵌入式软件

1、库创建

利用tensorflow-lite-micro为底子，创建库工程（C++）。可直接利用编译号的库
已编译的库地点下载（利用以下内容，可跳过“库创建”）
【免费】S32DS编译的S32K3tensorflowlite库，o3优化，DSP开启资源-CSDN文库
A、必要的头都放进去，安装Tensorflow引用的头路径方式

利用DSP编译选项的设置，设置方式参考下一章；S32K3支持该协处置惩罚器。
https://i-blog.csdnimg.cn/direct/a0c1ef1225374babbbe44e4fdc08c52b.png
B、大概的题目

库路径设置，记得是 C++
https://i-blog.csdnimg.cn/direct/f1a46059020a4912b54a9268d324fdc3.png
ethosu是平台的， AI推理，可以删除
schema_generated.h 屏蔽版本查抄
///static_assert(FLATBUFFERS_VERSION_MAJOR == 23 &&
///              FLATBUFFERS_VERSION_MINOR == 5 &&
///              FLATBUFFERS_VERSION_REVISION == 26,
///             "Non-compatible flatbuffers version included");
blocking_counter.h error: 'condition_variable' in namespace 'std' does not name a type，直接屏蔽代码（这个是多线程体系时才有利用实体）
array.h 从tflite-micro-main拷到ARM下载的中，而不是#include "flatbuffers/array.h"，
arm_nnfunctions.h  在CMSIS-NN中
instrumentation.h 必要Ruy中提供，矩阵盘算
FixPonit 头文件 Gemmlowp 低精度盘算

C、重界说题目办理

右击工程“Build configurations Explorer”，这几个文件在其他文件已经“include”了
https://i-blog.csdnimg.cn/direct/837d511e3d7d4fab965b65f198a64cd0.png


D、库引用设置（在测试步伐中设置）

https://i-blog.csdnimg.cn/direct/fe181d1fb77143baabe86fea74d6d211.png
路径设置：
https://i-blog.csdnimg.cn/direct/9b14bc34a0e341998bbf27a0ae677f88.png
2、测试步伐

创建工程（C++）

Main.c 代码
/*
* main implementation: use this 'C++' sample to create your own application
*
*/
#include "S32K344.h"
#include "tensorflow/lite/micro/micro_mutable_op_resolver.h"
#include "tensorflow/lite/micro/tflite_bridge/micro_error_reporter.h"
#include "tensorflow/lite/micro/micro_interpreter.h"
#include "tensorflow/lite/schema/schema_generated.h"

// 包含模型数据
#include "model.cc"
#include "input_data.cc"


volatile int predicted_class_index = 0;
float input_data;
volatile bool test_run = false;
const int tensor_arena_size = 40 * 1024;
uint8_t tensor_arena;

int main()
{
    // 定义错误报告器
    tflite::MicroErrorReporter micro_error_reporter;
    tflite::ErrorReporter* error_reporter = &micro_error_reporter;

   // 定义操作解析器
    tflite::MicroMutableOpResolver<10> resolver;
    resolver.AddAdd();
    resolver.AddMul();
    resolver.AddSub();
    resolver.AddDiv();
    resolver.AddReshape();
    resolver.AddFullyConnected();
    resolver.AddSoftmax();
    resolver.AddRelu();

    // 定义模型
    const tflite::Model* tfmodel = tflite::GetModel(model_data);
    if (tfmodel == nullptr)
    {
      TF_LITE_REPORT_ERROR(error_reporter, "Failed to build tfmodel from buffer");
      while (1);
    }

    // 定义解释器
    tflite::MicroInterpreter interpreter = tflite::MicroInterpreter(tfmodel, resolver, tensor_arena, tensor_arena_size);

    // 分配张量
    TfLiteStatus allocate_status = interpreter.AllocateTensors();
    if (allocate_status != kTfLiteOk)
    {
      TF_LITE_REPORT_ERROR(error_reporter, "Tensor allocation failed");
      while (1);
    }
    // 初始化第一个输入张量
    for (int i = 0; i < 28 * 28; ++i)
    {
      input_data = x_train;
    }
    // 准备输入数据
    TfLiteTensor* input_tensor = interpreter.input(0);

    for (;;)
    {
      // 填充输入数据
      for (int i = 0; i < 28 * 28; ++i)
      {
            input_tensor->data.f = input_data;
      }

      // 运行推理
      TfLiteStatus invoke_status = interpreter.Invoke();
      if (invoke_status != kTfLiteOk)
      {
            TF_LITE_REPORT_ERROR(error_reporter, "Invoke failed");
            while (1);
      }

      // 获取输出结果
      TfLiteTensor* output_tensor = interpreter.output(0);

      // 处理输出数据：找到概率最大的类别索引
      int num_classes = output_tensor->bytes / sizeof(float);

      float max_prob = output_tensor->data.f;
      for (int i = 1; i < num_classes; ++i) {
            if (output_tensor->data.f > max_prob) {
                max_prob = output_tensor->data.f;
                predicted_class_index = i;
            }
      }
   
      test_run = false;
      while(!test_run);
    }
    return 0;
}


表明器

MicroInterpreter为该示例的表明器，别的一个不利用
增长利用

resolver.AddRelu();根据Netron图中的利用或HelloAi中模子层确定
设置缓存区

uint8_t tensor_arena;
tensor_arena_size根据Hellow.py  中的 total_memory
3、性能测试

输入 28 * 28 个数据，输出 10 个数据；该结果通过TRACE32读取。
潜伏层神经元个数48MHz 48MHz
O3优化
DSP利用
160MHz
O3优化
DSP利用
128560ms32ms12ms64//7ms 利用DSP编译选项的设置
https://i-blog.csdnimg.cn/direct/297d03f6aafa40c58adc0e8e7a042889.png
五、模子推测的正确率测试

1、测试脚本（先加载训练数据，再传给TRACE32）

import lauterbach.trace32.rcl as t32rc
import tensorflow as tf
import time


if __name__ == "__main__":
    mnist = tf.keras.datasets.mnist
    (x_train, y_train),(x_test, y_test) = mnist.load_data()
    x_train = x_train / 255.0

    t32debug = t32rc.connect(node = "localhost",port = 20000,packlen = 1024)
    right_cnt = 0
    calcu_cnt = 0

    # input data update
    i = 0
    for x in x_train:
      calcu_cnt += 1
      input_datas = x.flatten()
      varDict = {}
      j = 0
      
      input_checksum = 0
      readback_checksum = 0
      for input_data in input_datas:
            signalName = 'input_data[' + str(j) + ']' # 构建信号名
            input_data = float(input_data)
            input_checksum += input_data
            j += 1
            t32debug.variable.write(signalName, input_data)
            #time.sleep(0.001)
            readback_checksum += t32debug.variable.read(signalName).value

      #t32debug.go()

      # model predict in mircrocontroller, wait finsh
      t32debug.variable.write('test_run', 1)
      while t32debug.variable.read('test_run').value != 0:
            time.sleep(0.1)#0.1s
      #t32debug.trace32_break()

      # read output data
      out_signalname = 'predicted_class_index'
      predicted_class = t32debug.variable.read(out_signalname).value
      ifpredicted_class == y_train:
            right_cnt += 1
      else:
            print("predict error!", 'input checksum: ', input_checksum, 'readback checksum', readback_checksum)

      print(right_cnt, '/', calcu_cnt, ' :', predicted_class, ':', y_train)
      i += 1
    print('Accuracy: ', right_cnt / calcu_cnt)
    print('Total number of test data: ', calcu_cnt)

2、加载训练数据

获取结果与现实举行对比。
https://i-blog.csdnimg.cn/direct/6fc248ec420b466fb6ef05e0a85095df.png
3、TRACE32必要使能Port

https://i-blog.csdnimg.cn/direct/839bd892730d4f9e9b7b5fa1a37dbf71.png
4、TRACE32增长交互的数据

https://i-blog.csdnimg.cn/direct/13083408a08f4b759f3663772c68c4ba.png
5、实行测试

运行大概不是太快
https://i-blog.csdnimg.cn/direct/881fb446329e4d06a8fe80a659d246ad.png

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

查看完整版本: 利用S32DS摆设Tensorflow lite到S32K3