【语音辨认】在Win11利用Docker部署FunASR服务器

在 Win11 利用 Docker 部署 FunASR 服务器

该文章因官网文档不详细故写的履历论
官网文章：https://github.com/alibaba-damo-academy/FunASR/blob/main/runtime/docs/SDK_advanced_guide_online_zh.md
且官网只针对 Linux/Max 系统出的教程，故利用Win11纪录
镜像启动

1. docker pull registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.9
2. mkdir D://FunASR//model
3. docker run -p 10095:10095 -it --privileged=true -v D:/FunASR/model:/workspace/models registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.9

复制代码

docker pull 拉取镜像
docker run 启动镜像
-p 10095:10095 将容器内部的端口 10095 映射到宿主机的端口 10095
-it 分配一个伪终端并保持尺度输入打开
--privileged=true 赋予容器特权，允许它实行特权操作，如访问宿主机的硬件设备等
-v D:/FunASR/model:/workspace/models 将当地文件系统中的 D:/FunASR/model 目录挂载到容器内的 /workspace/models 目录，实现当地文件与容器内部的文件共享
registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.9 拉取下来的镜像
服务端启动

docker启动之后，启动 funasr-wss-server-2pass服务程序：

1. cd FunASR/runtime
2. nohup bash run_server_2pass.sh \
3.   --certfile 0  \
4.   --download-model-dir /workspace/models \
5.   --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
6.   --model-dir damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx  \
7.   --online-model-dir damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online-onnx  \
8.   --punc-dir damo/punc_ct-transformer_zh-cn-common-vad_realtime-vocab272727-onnx \
9.   --itn-dir thuduj12/fst_itn_zh > log.txt 2>&1 &
10. # 如果您想关闭ssl，增加参数：--certfile 0
11. # 如果您想使用时间戳或者nn热词模型进行部署，请设置--model-dir为对应模型：
12. #   damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx（时间戳）
13. #   damo/speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404-onnx（nn热词）
14. # 如果您想在服务端加载热词，请在宿主机文件./funasr-runtime-resources/models/hotwords.txt配置热词（docker映射地址为/workspace/models/hotwords.txt）:
15. #   每行一个热词，格式(热词 权重)：阿里巴巴 20（注：热词理论上无限制，但为了兼顾性能和效果，建议热词长度不超过10，个数不超过1k，权重1~100）

复制代码

run_server_2pass.sh命令参数介绍

1. --download-model-dir 模型下载地址，通过设置model ID从Modelscope下载模型
2. --model-dir  modelscope model ID 或者 本地模型路径
3. --online-model-dir  modelscope model ID 或者 本地模型路径
4. --vad-dir  modelscope model ID 或者 本地模型路径
5. --punc-dir  modelscope model ID 或者 本地模型路径
6. --lm-dir modelscope model ID 或者 本地模型路径
7. --itn-dir modelscope model ID 或者 本地模型路径
8. --port  服务端监听的端口号，默认为 10095
9. --decoder-thread-num  服务端线程池个数(支持的最大并发路数)，
10.                       脚本会根据服务器线程数自动配置decoder-thread-num、io-thread-num
11. --io-thread-num  服务端启动的IO线程数
12. --model-thread-num  每路识别的内部线程数(控制ONNX模型的并行)，默认为 1，
13.                     其中建议 decoder-thread-num*model-thread-num 等于总线程数
14. --certfile  ssl的证书文件，默认为：../../../ssl_key/server.crt，如果需要关闭ssl，参数设置为0
15. --keyfile   ssl的密钥文件，默认为：../../../ssl_key/server.key
16. --hotword   热词文件路径，每行一个热词，格式：热词 权重(例如:阿里巴巴 20)，
17.             如果客户端提供热词，则与客户端提供的热词合并一起使用，服务端热词全局生效，客户端热词只针对对应客户端生效。

复制代码

监控服务端日志

1. tail -f /workspace/FunASR/runtime/log.txt

复制代码

下载测试案例

开启服务的终端不关闭，另开一个终端用于下载示例

1. # 查看运行的容器
2. docker ps
3. CONTAINER ID   IMAGE                                                                                      COMMAND       CREATED          STATUS          PORTS                      NAMES
4. 0c81b11d2791   registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-online-cpu-0.1.9   "/bin/bash"   19 minutes ago   Up 19 minutes   0.0.0.0:10095->10095/tcp   inspiring_banzai
5. # 另开终端
6. docker exec -it 0c81b11d2791 /bin/bash
7. # 下载示例
8. wget https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/sample/funasr_samples.tar.gz

复制代码

利用测试案例

打开基于 HTML 的案例

1. # 在 /workspace/models 目录下创建一个目录 funasr_samples
2. mkdir /workspace/models/funasr_samples
3. # 解压文件到 /workspace/models/funasr_samples 目录下
4. tar -xzf funasr_samples.tar.gz -C /workspace/models/funasr_samples

复制代码

前面镜像启动时，我们将容器的目录 /workspace/models 挂载到了宿主机的 D:/FunASR/model 下面，因此下载到 /workspace/models/funasr_samples 目录里面的内容，可以在 D:/FunASR/model 上面看到

连接ASR服务端

修改asr服务器地址为 ws://127.0.0.1:10095/，因为没有开启 SSL，以是不是 wss 而是 ws，利用当地地址 127.0.0.1，端标语为镜像启动时设置的，与宿主机映射的端标语对应

关闭FunASR服务

1. # 查看 funasr-wss-server-2pass 对应的PID
2. ps -x | grep funasr-wss-server-2pass
3. 133 pts/0    Sl     0:18 /workspace/FunASR/runtime/websocket/build/bin/funasr-wss-server-2pass --download-model-dir /workspace/models --model-dir damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx --online-model-dir damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online-onnx --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx --punc-dir damo/punc_ct-transformer_zh-cn-common-vad_realtime-vocab272727-onnx --itn-dir thuduj12/fst_itn_zh --lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst --decoder-thread-num 8 --model-thread-num 1 --io-thread-num 1 --port 10095 --certfile  --keyfile  --hotword /workspace/FunASR/runtime/websocket/hotwords.txt
4. 2106 pts/1    S+     0:00 grep --color=auto funasr-wss-server-2pass
5. # 关闭进程
6. kill -9 133

复制代码

注意事项

Tip：当你关闭了服务端，再次启动时，报 asio listen error: asio.system:98 (Address already in use) 错误，并不影响客户端访问服务端。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。