鸿蒙5.0&next开发【音频解码】音视频编解码

音频解码

开发者可以调用本模块的Native API接口，完成音频解码，即将媒体数据解码为PCM码流。
适用场景

• 音频播放
  在播放音频之前，需要先解码音频，再将数据输送到硬件扬声器播放。
  
• 音频渲染
  在对音频文件进行音效处理之前，需要先解码再由音频处理模块进行音频渲染。
  
• 音频编辑
  音频编辑（如调解单个声道的播放倍速等）需要基于PCM码流进行，以是需要先将音频文件解码。
  

   说明：
  通过MP3音频编码流程生成的码流无法直接通过MP3音频解码流程进行解码。建议通过（PCM码流->MP3音频编码->封装->解封装->MP3音频解码）流程进行。
  开发指导

参考以下示例代码，完成音频解码的全流程，包罗：创建解码器、设置解码参数（采样率/码率/声道数等）、开始、刷新、重置、烧毁资源。
在应用开发过程中，开发者应按肯定顺序调用方法，执行对应操作，否则系统可能会抛出异常或生成其他未界说的举动。详细顺序可参考下列开发步骤及对应说明。
如下为音频解码调用关系图：

• 虚线表示可选。
  
• 实线表示必选。
  

在 CMake 脚本中链接动态库

1. target_link_libraries(sample PUBLIC libnative_media_codecbase.so)
2. target_link_libraries(sample PUBLIC libnative_media_core.so)
3. target_link_libraries(sample PUBLIC libnative_media_acodec.so)
4. cmake

复制代码

开发步骤

• 添加头文件。
  
  1. #include <multimedia/player_framework/native_avcodec_audiocodec.h>
  2. #include <multimedia/native_audio_channel_layout.h>
  3. #include <multimedia/player_framework/native_avcapability.h>
  4. #include <multimedia/player_framework/native_avcodec_base.h>
  5. #include <multimedia/player_framework/native_avformat.h>
  6. #include <multimedia/player_framework/native_avbuffer.h>
  7. cpp

  复制代码
• 创建解码器实例对象，OH_AVCodec *为解码器实例指针。
  
  1. //c++标准库命名空间
  2. using namespace std;
  3. // 通过 codec name 创建解码器
  4. OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_AUDIO_MPEG, false);
  5. const char *name = OH_AVCapability_GetName(capability);
  6. OH_AVCodec *audioDec_ = OH_AudioCodec_CreateByName(name);
  7. cpp

  复制代码
  1. // 设置判定是否为编码；设置false表示当前是解码。
  2. bool isEncoder = false;
  3. // 通过 Mimetype 创建解码器
  4. OH_AVCodec *audioDec_ = OH_AudioCodec_CreateByMime(OH_AVCODEC_MIMETYPE_AUDIO_MPEG, isEncoder);
  5. cpp

  复制代码
  1. // 初始化队列
  2. class ADecBufferSignal {
  3. public:
  4.     std::mutex inMutex_;
  5.     std::mutex outMutex_;
  6.     std::mutex startMutex_;
  7.     std::condition_variable inCond_;
  8.     std::condition_variable outCond_;
  9.     std::condition_variable startCond_;
  10.     std::queue<uint32_t> inQueue_;
  11.     std::queue<uint32_t> outQueue_;
  12.     std::queue<OH_AVBuffer *> inBufferQueue_;
  13.     std::queue<OH_AVBuffer *> outBufferQueue_;
  14. };
  15. ADecBufferSignal *signal_;
  16. cpp

  复制代码
• 调用OH_AudioCodec_RegisterCallback()注册回调函数。
  注册回调函数指针聚集OH_AVCodecCallback，包罗：
  
  
  
  • OH_AVCodecOnError：解码器运行错误。
    
  • OH_AVCodecOnStreamChanged：码流信息变化，如声道变化等。
    
  • OH_AVCodecOnNeedInputBuffer：运行过程中需要新的输入数据，即解码器已准备好，可以输入数据。
    
  • OH_AVCodecOnNewOutputBuffer：运行过程中产生了新的输出数据，即解码完成。
    
  开发者可以通过处理该回调报告的信息，确保解码器正常运转。
         注意： 回调中不建议进行耗时操作。
     
  1. // OH_AVCodecOnError回调函数的实现
  2. static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData)
  3. {
  4.     (void)codec;
  5.     (void)errorCode;
  6.     (void)userData;
  7. }
  8. // OH_AVCodecOnStreamChanged回调函数的实现
  9. static void OnOutputFormatChanged(OH_AVCodec *codec, OH_AVFormat *format, void *userData)
  10. {
  11.     (void)codec;
  12.     (void)format;
  13.     (void)userData;
  14. }
  15. // OH_AVCodecOnNeedInputBuffer回调函数的实现
  16. static void OnInputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *data, void *userData)
  17. {
  18.     (void)codec;
  19.     ADecBufferSignal *signal = static_cast<ADecBufferSignal *>(userData);
  20.     unique_lock<mutex> lock(signal->inMutex_);
  21.     signal->inQueue_.push(index);
  22.     signal->inBufferQueue_.push(data);
  23.     signal->inCond_.notify_all();
  24.     // 解码输入码流送入inBufferQueue_队列
  25. }
  26. // OH_AVCodecOnNewOutputBuffer回调函数的实现
  27. static void OnOutputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *data, void *userData)
  28. {
  29.     (void)codec;
  30.     ADecBufferSignal *signal = static_cast<ADecBufferSignal *>(userData);
  31.     unique_lock<mutex> lock(signal->outMutex_);
  32.     signal->outQueue_.push(index);
  33.     signal->outBufferQueue_.push(data);
  34.     signal->outCond_.notify_all();
  35.     // 将对应输出buffer的 index 送入outQueue_队列
  36.     // 将对应解码完成的数据data送入outBufferQueue_队列
  37. }
  38. signal_ = new ADecBufferSignal();
  39. OH_AVCodecCallback cb_ = {&OnError, &OnOutputFormatChanged, &OnInputBufferAvailable, &OnOutputBufferAvailable};
  40. int32_t ret = OH_AudioCodec_RegisterCallback(audioDec_, cb_, signal_);
  41. if (ret != AVCS_ERR_OK) {
  42.     // 异常处理
  43. }
  44. cpp

  复制代码
  
  
• （可选）OH_AudioCodec_SetDecryptionConfig设置解密设置。
  当获取到DRM信息后，通过此接口进行解密设置。
  此接口需在Prepare前调用。
  添加头文件:
  
  1. #include <multimedia/drm_framework/native_mediakeysystem.h>
  2. #include <multimedia/drm_framework/native_mediakeysession.h>
  3. #include <multimedia/drm_framework/native_drm_err.h>
  4. #include <multimedia/drm_framework/native_drm_common.h>
  5. c++

  复制代码
  在 CMake 脚本中链接动态库:
  
  1. target_link_libraries(sample PUBLIC libnative_drm.so)
  2. cmake

  复制代码
  使用示例:
  
  1. // 根据DRM信息创建指定的DRM系统, 以创建"com.clearplay.drm"为例
  2. MediaKeySystem *system = nullptr;
  3. int32_t ret = OH_MediaKeySystem_Create("com.clearplay.drm", &system);
  4. if (system == nullptr) {
  5.     printf("create media key system failed");
  6.     return;
  7. }
  9. // 创建解密会话
  10. MediaKeySession *session = nullptr;
  11. DRM_ContentProtectionLevel contentProtectionLevel = CONTENT_PROTECTION_LEVEL_SW_CRYPTO;
  12. ret = OH_MediaKeySystem_CreateMediaKeySession(system, &contentProtectionLevel, &session);
  13. if (ret != DRM_OK) {
  14.     // 如创建失败，请查看DRM接口文档及日志信息
  15.     printf("create media key session failed.");
  16.     return;
  17. }
  18. if (session == nullptr) {
  19.     printf("media key session is nullptr.");
  20.     return;
  21. }
  22. // 获取许可证请求、设置许可证响应等
  23. // 设置解密配置, 即将解密会话、安全通路标志(当前音频解密不支持安全通路，应设置为false)设置到解码器中。
  24. bool secureAudio = false;
  25. ret = OH_AudioCodec_SetDecryptionConfig(audioDec_, session, secureAudio);
  26. c++

  复制代码
• 调用OH_AudioCodec_Configure()设置解码器。
  设置选项key值说明：
     key描述AACFlacVorbisMPEGG711muAMR(amrnb、amrwb)APEOH_MD_KEY_AUD_SAMPLE_RATE采样率必须必须必须必须必须必须必须OH_MD_KEY_AUD_CHANNEL_COUNT声道数必须必须必须必须必须必须必须OH_MD_KEY_MAX_INPUT_SIZE最大输入长度可选可选可选可选可选可选可选OH_MD_KEY_AAC_IS_ADTS是否adts可选，默认1------OH_MD_KEY_AUDIO_SAMPLE_FORMAT输出音频流格式可选（SAMPLE_S16LE，SAMPLE_F32LE）可选可选（SAMPLE_S16LE，SAMPLE_F32LE）可选可选（默认SAMPLE_S16LE）可选（SAMPLE_S16LE，SAMPLE_F32LE）可选OH_MD_KEY_BITRATE码率可选可选可选可选可选可选可选OH_MD_KEY_IDENTIFICATION_HEADERID Header--必须（和Codec_Config二选一）----OH_MD_KEY_SETUP_HEADERSetup Header--必须（和Codec_Config二选一）----OH_MD_KEY_CODEC_CONFIG编解码器特定命据可选-必须（和上述ID和Setup二选一）---可选各音频解码范例参数范围说明：
     音频解码范例采样率(Hz)声道数AAC8000、11025、12000、16000、22050、24000、32000、44100、48000、64000、88200、960001~8Flac8000、11025、12000、16000、22050、24000、32000、44100、48000、64000、88200、96000、1920001~8Vorbis8000、11025、12000、16000、22050、24000、32000、44100、48000、64000、88200、96000、176400、1920001~8MPEG(MP3)8000、11025、12000、16000、22050、24000、32000、44100、480001~2G711mu80001AMR(amrnb)80001AMR(amrwb)160001APE8000、11025、12000、16000、22050、24000、32000、44100、48000、64000、88200、96000、176400、1920001~2
  1. // 设置解码分辨率
  2. int32_t ret;
  3. // 配置音频采样率（必须）
  4. constexpr uint32_t DEFAULT_SAMPLERATE = 44100;
  5. // 配置音频码率（可选）
  6. constexpr uint32_t DEFAULT_BITRATE = 32000;
  7. // 配置音频声道数（必须）
  8. constexpr uint32_t DEFAULT_CHANNEL_COUNT = 2;
  9. // 配置最大输入长度（可选）
  10. constexpr uint32_t DEFAULT_MAX_INPUT_SIZE = 1152;
  11. // 配置是否为ADTS解码（aac解码时可选）
  12. constexpr uint32_t DEFAULT_AAC_TYPE = 1;
  13. OH_AVFormat *format = OH_AVFormat_Create();
  14. // 写入format
  15. OH_AVFormat_SetIntValue(format, OH_MD_KEY_AUD_SAMPLE_RATE, DEFAULT_SAMPLERATE);
  16. OH_AVFormat_SetIntValue(format, OH_MD_KEY_BITRATE, DEFAULT_BITRATE);
  17. OH_AVFormat_SetIntValue(format, OH_MD_KEY_AUD_CHANNEL_COUNT, DEFAULT_CHANNEL_COUNT);
  18. OH_AVFormat_SetIntValue(format, OH_MD_KEY_MAX_INPUT_SIZE, DEFAULT_MAX_INPUT_SIZE);
  19. OH_AVFormat_SetIntValue(format, OH_MD_KEY_AAC_IS_ADTS, DEFAULT_AAC_TYPE);
  20. // 配置解码器
  21. ret = OH_AudioCodec_Configure(audioDec_, format);
  22. if (ret != AV_ERR_OK) {
  23.     // 异常处理
  24. }
  25. cpp

  复制代码
• 调用OH_AudioCodec_Prepare()，解码器就绪。
  
  1. ret = OH_AudioCodec_Prepare(audioDec_);
  2. if (ret != AV_ERR_OK) {
  3.     // 异常处理
  4. }
  5. cpp

  复制代码
• 调用OH_AudioCodec_Start()启动解码器，进入运行态。
  
  1. unique_ptr<ifstream> inputFile_ = make_unique<ifstream>();
  2. unique_ptr<ofstream> outFile_ = make_unique<ofstream>();
  3. // 打开待解码二进制文件路径
  4. inputFile_->open(inputFilePath.data(), ios::in | ios::binary);
  5. // 配置解码文件输出路径
  6. outFile_->open(outputFilePath.data(), ios::out | ios::binary);
  7. // 开始解码
  8. ret = OH_AudioCodec_Start(audioDec_);
  9. if (ret != AV_ERR_OK) {
  10.     // 异常处理
  11. }
  12. c++

  复制代码
• （可选）调用OH_AVCencInfo_SetAVBuffer()，设置cencInfo。
  若当前播放的节目是DRM加密节目，且由上层应用做媒体解封装，则须调用OH_AVCencInfo_SetAVBuffer()将cencInfo设置给AVBuffer，以实现AVBuffer中媒体数据的解密。
  添加头文件：
  
  1. #include <multimedia/player_framework/native_cencinfo.h>
  2. c++

  复制代码
  在 CMake 脚本中链接动态库：
  
  1. target_link_libraries(sample PUBLIC libnative_media_avcencinfo.so)
  2. cmake

  复制代码
  使用示例：
  
  1. auto buffer = signal_->inBufferQueue_.front();
  2. uint32_t keyIdLen = DRM_KEY_ID_SIZE;
  3. uint8_t keyId[] = {
  4.     0xd4, 0xb2, 0x01, 0xe4, 0x61, 0xc8, 0x98, 0x96,
  5.     0xcf, 0x05, 0x22, 0x39, 0x8d, 0x09, 0xe6, 0x28};
  6. uint32_t ivLen = DRM_KEY_IV_SIZE;
  7. uint8_t iv[] = {
  8.     0xbf, 0x77, 0xed, 0x51, 0x81, 0xde, 0x36, 0x3e,
  9.     0x52, 0xf7, 0x20, 0x4f, 0x72, 0x14, 0xa3, 0x95};
  10. uint32_t encryptedBlockCount = 0;
  11. uint32_t skippedBlockCount = 0;
  12. uint32_t firstEncryptedOffset = 0;
  13. uint32_t subsampleCount = 1;
  14. DrmSubsample subsamples[1] = { {0x10, 0x16} };
  15. // 创建CencInfo实例
  16. OH_AVCencInfo *cencInfo = OH_AVCencInfo_Create();
  17. if (cencInfo == nullptr) {
  18.     // 异常处理
  19. }
  20. // 设置解密算法
  21. OH_AVErrCode errNo = OH_AVCencInfo_SetAlgorithm(cencInfo, DRM_ALG_CENC_AES_CTR);
  22. if (errNo != AV_ERR_OK) {
  23.     // 异常处理
  24. }
  25. // 设置KeyId和Iv
  26. errNo = OH_AVCencInfo_SetKeyIdAndIv(cencInfo, keyId, keyIdLen, iv, ivLen);
  27. if (errNo != AV_ERR_OK) {
  28.     // 异常处理
  29. }
  30. // 设置Sample信息
  31. errNo = OH_AVCencInfo_SetSubsampleInfo(cencInfo, encryptedBlockCount, skippedBlockCount, firstEncryptedOffset,
  32.     subsampleCount, subsamples);
  33. if (errNo != AV_ERR_OK) {
  34.     // 异常处理
  35. }
  36. // 设置模式：KeyId、Iv和SubSamples已被设置
  37. errNo = OH_AVCencInfo_SetMode(cencInfo, DRM_CENC_INFO_KEY_IV_SUBSAMPLES_SET);
  38. if (errNo != AV_ERR_OK) {
  39.     // 异常处理
  40. }
  41. // 将CencInfo设置到AVBuffer中
  42. errNo = OH_AVCencInfo_SetAVBuffer(cencInfo, buffer);
  43. if (errNo != AV_ERR_OK) {
  44.     // 异常处理
  45. }
  46. // 销毁CencInfo实例
  47. errNo = OH_AVCencInfo_Destroy(cencInfo);
  48. if (errNo != AV_ERR_OK) {
  49.     // 异常处理
  50. }
  51. c++

  复制代码
• 调用OH_AudioCodec_PushInputBuffer()，写入待解码的数据。
  需开发者添补完备的输入数据后调用。
  如果是结束，需要对flags标识成AVCODEC_BUFFER_FLAGS_EOS。
  
  1. uint32_t index = signal_->inQueue_.front();
  2. auto buffer = signal_->inBufferQueue_.front();
  3. int64_t size;
  4. int64_t pts;
  5. // size是待解码数据的每帧帧长度。pts是每帧的时间戳，用于指示音频应该何时被播放。
  6. // size和pts的获取来源：音视频资源文件或者待解码的数据流
  7. // 若是解码音视频资源文件，则需从解封装OH_AVDemuxer_ReadSampleBuffer的buffer中获取
  8. // 若是解码数据流，则需要从数据流的提供者获取。
  9. // 此处为了介绍解码功能以测试文件中保存的size和pts为示例
  10. inputFile_.read(reinterpret_cast<char *>(&size), sizeof(size));
  11. inputFile_.read(reinterpret_cast<char *>(&pts), sizeof(pts));
  12. inputFile_.read((char *)OH_AVBuffer_GetAddr(buffer), size);
  13. OH_AVCodecBufferAttr attr = {0};
  14. if (inputFile_->eof()) {
  15.     attr.size = 0;
  16.     attr.flags = AVCODEC_BUFFER_FLAGS_EOS;
  17. } else {
  18.     attr.size = size;
  19.     attr.flags = AVCODEC_BUFFER_FLAGS_NONE;
  20. }
  21. attr.pts = pts;
  22. OH_AVBuffer_SetBufferAttr(buffer, &attr);
  23. int32_t ret = OH_AudioCodec_PushInputBuffer(audioDec_, index);
  24. if (ret != AV_ERR_OK) {
  25.     // 异常处理
  26. }
  27. c++

  复制代码
• 调用OH_AudioCodec_FreeOutputBuffer()，开释解码后的数据。
  在取走解码PCM码流后，就应及时调用OH_AudioCodec_FreeOutputBuffer()进行开释。
  
  1. uint32_t index = signal_->outQueue_.front();
  2. OH_AVBuffer *data = signal_->outBufferQueue_.front();
  3. // 获取buffer attributes
  4. OH_AVCodecBufferAttr attr = {0};
  5. ret = OH_AVBuffer_GetBufferAttr(data, &attr);
  6. if (ret != AV_ERR_OK) {
  7.     // 异常处理
  8. }
  9. // 将解码完成数据data写入到对应输出文件中
  10. pcmOutputFile_.write(reinterpret_cast<char *>(OH_AVBuffer_GetAddr(data)), attr.size);
  11. ret = OH_AudioCodec_FreeOutputBuffer(audioDec_, index);
  12. if (ret != AV_ERR_OK) {
  13.     // 异常处理
  14. }
  15. if (attr.flags == AVCODEC_BUFFER_FLAGS_EOS) {
  16.     // 结束
  17. }
  18. c++

  复制代码
• （可选）调用OH_AudioCodec_Flush()刷新解码器。
  调用OH_AudioCodec_Flush()后，解码器仍处于运行态，但会将当前队列清空，将已解码的数据开释。
  此时需要调用OH_AudioCodec_Start()重新开始解码。
  使用情况：
  
  
  
  • 在文件EOS之后，需要调用刷新。
    
  • 在执行过程中遇到可继续执行的错误时（即OH_AudioCodec_IsValid 为true）调用。
    
  1. // 刷新解码器 audioDec_
  2. ret = OH_AudioCodec_Flush(audioDec_);
  3. if (ret != AV_ERR_OK) {
  4.     // 异常处理
  5. }
  6. // 重新开始解码
  7. ret = OH_AudioCodec_Start(audioDec_);
  8. if (ret != AV_ERR_OK) {
  9.     // 异常处理
  10. }
  11. c++

  复制代码
  
  
• （可选）调用OH_AudioCodec_Reset()重置解码器。
  调用OH_AudioCodec_Reset()后，解码器回到初始化的状态，需要调用OH_AudioCodec_Configure()重新设置，然后调用OH_AudioCodec_Start()重新开始解码。
  
  1. // 重置解码器 audioDec_
  2. ret = OH_AudioCodec_Reset(audioDec_);
  3. if (ret != AV_ERR_OK) {
  4.     // 异常处理
  5. }
  6. // 重新配置解码器参数
  7. ret = OH_AudioCodec_Configure(audioDec_, format);
  8. if (ret != AV_ERR_OK) {
  9. // 异常处理
  10. }
  11. c++

  复制代码
• 调用OH_AudioCodec_Stop()停止解码器。
  停止后，可以通过调用OH_AudioCodec_Start()重新进入已启动状态（started），但需要注意的是，如果编解码器之前已输入数据，则需要重新输入编解码器数据。
  
  1. // 终止解码器 audioDec_
  2. ret = OH_AudioCodec_Stop(audioDec_);
  3. if (ret != AV_ERR_OK) {
  4.     // 异常处理
  5. }
  6. c++

  复制代码
• 调用OH_AudioCodec_Destroy()烧毁解码器实例，开释资源。
         说明： 不要重复烧毁解码器
     
  1. // 调用OH_AudioCodec_Destroy, 注销解码器
  2. ret = OH_AudioCodec_Destroy(audioDec_);
  3. if (ret != AV_ERR_OK) {
  4.     // 异常处理
  5. } else {
  6.     audioDec_ = NULL; // 不可重复destroy
  7. }

  复制代码

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。