开源项目安装设置指南：更快的Whisper - faster-whisper

开源项目安装设置指南：更快的Whisper - faster-whisper

    faster-whisper   

项目地址: https://gitcode.com/gh_mirrors/fas/faster-whisper   
项目基础介绍与主要编程语言

更快的Whisper（faster-whisper） 是一个基于OpenAI的Whisper模型的重实现，它使用了CTranslate2作为其底层快速推理引擎。CTranslate2是一款专为Transformer模型设计的高效推理工具。这个项目旨在提供比原始Whisper更高效的语音转文字能力，同时保持相当的正确性。主要编程语言是Python，并且高度依靠于GPU加速盘算。
关键技术和框架

技术栈：

• CTranslate2: 快速的Transformer模型推理引擎。
  
• PyTorch: 用于模型的加载和部分处置惩罚。
  
• CUDA & cuDNN: GPU加速库，对于在NVIDIA显卡上运行至关紧张。
  
• Whisper Model: OpenAI的语音识别模型基础。
  

框架和依靠：

• Python 3.8 或更高版本
  
• NVIDIA 库 (cuBLAS, cuDNN 版本适配CUDA)
  

安装与设置具体步调

准备工作

• 确保情况：首先，你的系统应安装有Python 3.8或以上版本。
  
• 安装CUDA和cuDNN：确保你的NVIDIA GPU支持所需的CUDA版本（推荐CUDA 12，若遇到兼容性题目可降级至CUDA 11）。从NVIDIA官网下载对应的CUDA工具包，并安装相应版本的cuDNN。
  

安装faster-whisper

步调一：安装须要的库

如果你的Linux系统中没有预装pip，先进行安装：

1. sudo apt-get update
2. sudo apt-get install python3-pip

复制代码

对于NVIDIA干系库，建议通过Purview仓库或官方文档指定的方式获取，如果选择pip安装，在某些情况下需小心cuDNN版本兼容性题目。
步调二：安装faster-whisper

直接使用pip安装最新的稳固版：

1. pip install faster-whisper

复制代码

或者，如果你想从最新代码分支安装（实用于开辟者和渴望测试最新功能的用户）：

1. pip install --force-reinstall "faster-whisper @ https://github.com/SYSTRAN/faster-whisper/archive/refs/heads/master.tar.gz"

复制代码

注意事项

• 对于特定的GPU优化（如INT8量化），大概须要额外的设置步调，并且确保情况变量正确设置。
  
• 在Windows上，思量使用Purfview提供的预构建库以简化安装过程。
  
• 使用过程中，确保LD_LIBRARY_PATH已设置正确，特殊是在手动安装NVIDIA库的情况下。
  

设置验证

安装完成后，你可以通过运行简朴的示例来验证是否安装乐成。以下是一个基本的音频转录示例：

1. from faster_whisper import WhisperModel
3. model_size = "large-v3"  # 可根据实际需求更改模型大小
4. model = WhisperModel(model_size, device="cuda" if torch.cuda.is_available() else "cpu")
6. # 假定你的音频文件路径为 'example.mp3'
7. segments, info = model.transcribe("example.mp3", beam_size=5)
8. print(f"Detected language '{info.language}' with probability {info.language_probability}")
9. for segment in segments:
10.     print(f"[{segment.start:.2f} -> {segment.end:.2f}] {segment.text}")

复制代码

请注意，实际应用时应确保音频文件存在，且路径正确。
至此，你已经乐成安装并可以开始使用更快的Whisper进行语音识别任务了。记得根据实际情况调解模型大小和设备范例，以获得最佳性能和资源使用效率。
    faster-whisper   

项目地址: https://gitcode.com/gh_mirrors/fas/faster-whisper   

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。