ToB企服应用市场:ToB评测及商务社交产业平台

标题: 阿里新开源GPU版本的FunASR安装避坑 [打印本页]
作者: 用户云卷云舒    时间: 2024-7-16 17:44
标题: 阿里新开源GPU版本的FunASR安装避坑
#当前安装过程没有cpu版本顺遂
1.个人在本身的电脑上安装ubantu系统，以便使用本身的显卡功能(本人显卡NVIDIA GeForce RTX 4060)（这里需要注意，更新内里有附加驱动安装驱动会导致黑屏，小搭档不要心急重装系统，可以ctrl+alt+f2用本身的账户登陆，删除驱动（自行百度）然后reboot，这环境破例，我之前有个电脑安装就没事），因此当前驱动是在官网下载安装的。
funasr安装教程参考
  1. https://github.com/modelscope/FunASR/blob/main/runtime/docs/SDK_advanced_guide_offline_gpu_zh.md
复制代码
2.这里注意端口10095:10095，官方给的是10098:10095，后面调用引擎的代码端口是10095.
  1. sudo docker pull \
  2.   registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-gpu-0.1.1
  3. mkdir -p ./funasr-runtime-resources/models
  4. sudo docker run --gpus=all -p 10095:10095 -it --privileged=true \
  5.   -v $PWD/funasr-runtime-resources/models:/workspace/models \
  6.   registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-gpu-0.1.1
复制代码
这里拉取镜像约莫20多G，发起磁盘空间大点60G以上，不然白白浪费时间。
启动镜像的时候失败，报错如下：
  1. docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].
  2. ERRO[0000] error waiting for container: context canceled
复制代码
这里就需要安装NVIDIA Container Toolkit，具体教程参考https://blog.csdn.net/weixin_44212848/article/details/137013980
3.安装好NVIDIA Container Toolkit，启动镜像就可以了，开始运行funasr引擎，下载模型
  1. cd /workspace/FunASR/runtime
  2. nohup bash run_server.sh \
  3.   --download-model-dir /workspace/models \
  4.   --model-dir damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-pytorch \
  5.   --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
  6.   --punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx \
  7.   --lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst \
  8.   --itn-dir thuduj12/fst_itn_zh \
  9.   --certfile  ../../../ssl_key/server.crt \
  10.   --keyfile ../../../ssl_key/server.key \
  11.   --hotword ../../hotwords.txt  > log.txt 2>&1 &
复制代码
（我这里模型下载成功，但是没有启动，因为有个libtorch_global_deps.so文件不存在）好比：
  1. cd /workspace/FunASR/runtime/websocket/build/bin
  2. #1.执行
  3. ldd funasr-wss-server
  4. #2.会显示so文件，
  5. libtorch_global_deps.so => not found
  6. #3.这个时候可以输入下面命令查看so文件路径：
  7. find / -name libtorch_global_deps.so
  8. #结果：/usr/local/lib/python3.8/dist-packages/torch/lib/libtorch_global_deps.so
  9. #4.将该so文件路径导入环境变量
  10. export LD_LIBRARY_PATH=/usr/local/lib/python3.8/dist-packages/torch/lib
  12. #5.再次执行ldd funasr-wss-server ，就会发现libtorch_global_deps.so可以找到了
复制代码
4.模型下载好了，so文件也办理了，接下来启动引擎
  1. run_server.sh命令参数介绍
  3. --download-model-dir 模型下载地址，通过设置model ID从Modelscope下载模型
  4. --model-dir  modelscope model ID 或者 本地模型路径
  5. --vad-dir  modelscope model ID 或者 本地模型路径
  6. --punc-dir  modelscope model ID 或者 本地模型路径
  7. --lm-dir modelscope model ID 或者 本地模型路径
  8. --itn-dir modelscope model ID 或者 本地模型路径
  9. --port  服务端监听的端口号，默认为 10095
  10. --decoder-thread-num  服务端线程池个数(支持的最大并发路数)，
  11.                       **建议每路分配1G显存，即20G显存可配置20路并发**
  12. --io-thread-num  服务端启动的IO线程数
  13. --model-thread-num  每路识别的内部线程数(控制ONNX模型的并行)，默认为 1，
  14.                     其中建议 decoder-thread-num*model-thread-num 等于总线程数
  15. --certfile  ssl的证书文件，默认为：../../../ssl_key/server.crt，如果需要关闭ssl，参数设置为0
  16. --keyfile   ssl的密钥文件，默认为：../../../ssl_key/server.key
  17. --hotword   热词文件路径，每行一个热词，格式：热词 权重(例如:阿里巴巴 20)，
  18.             如果客户端提供热词，则与客户端提供的热词合并一起使用，服务端热词全局生效，客户端热词只针对对应客户端生效。
复制代码
 本人喜好直接运行，方便看有没有报错（这里启动的时候，报错，有个python库=onnxruntime不存在需要pip install onnxruntime，cpu版本安装的时候这个库是在的，警告可以不消分析）
  1. cd /workspace/FunASR/runtime/websocket/build/bin
  3. #这里参数可以参考原文档来设定，因为我模型下载好了，所以路径就是/workspace/models/damo
  4. ./funasr-wss-server --model-dir /workspace/models/damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-pytorch --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx --punc-dir /workspace/models/damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx --lm-dir /workspace/models/damo/speech_ngram_lm_zh-cn-ai-wesp-fst --itn-dir thuduj12/fst_itn_zh
复制代码
5.引擎启动成功就可以使用python（3.7以上）调用测试了（工具下载：wget https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/sample/funasr_samples.tar.gz）
  1. python3 funasr_wss_client.py --host "127.0.0.1" --port 10095 --mode offline \
  2.         --audio_in "../audio/asr_example.wav" --output_dir "./results"
复制代码


免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。



欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4