当前位置：首页 > news >正文

基于whisper流式语音识别

news 2025/7/19 10:30:54

为了实现持续监听麦克风并在检测到声音时进行转录，我们可以将流的监听时间设置为无限长。通过使用一个音量门限来检测是否有声音，然后进行转录。

安装依赖

确保安装必要的库：

pip install torch torchaudio openai-whisper sounddevice numpy

代码实现

import torch
import whisper
import sounddevice as sd
import numpy as np# 加载预训练的 Whisper 模型
model = whisper.load_model("base")# 设置模型为评估模式
model.eval()# 定义流式解码函数
def stream_decode(audio_buffer, sample_rate=16000):audio_tensor = torch.tensor(audio_buffer).float()result = model.transcribe(audio_tensor, fp16=False)return result['text']# 音频缓冲区和其他参数
buffer_size = 16000  # 每个音频块的大小（1秒）
audio_buffer = np.zeros(buffer_size * 10, dtype=np.float32)  # 预留10秒缓冲区
buffer_offset = 0
silence_threshold = 0.01  # 声音门限# 麦克风回调函数
def callback(indata, frames, time, status):global audio_buffer, buffer_offsetif status:print(status, flush=True)# 计算当前音频块的音量volume_norm = np.linalg.norm(indata) * 10if volume_norm > silence_threshold:# 将新音频数据复制到缓冲区audio_buffer[buffer_offset:buffer_offset+frames] = indata[:, 0]buffer_offset += frames# 当缓冲区达到或超过设定的大小时进行处理if buffer_offset >= buffer_size:text = stream_decode(audio_buffer[:buffer_size])print(f"Transcription: {text}", flush=True)# 移动缓冲区的数据audio_buffer = np.roll(audio_buffer, -buffer_size)buffer_offset -= buffer_sizeelse:# 如果检测到的音量低于门限，将缓冲区位置重置buffer_offset = 0# 启动麦克风流
def start_streaming():stream = sd.InputStream(callback=callback, channels=1, samplerate=16000, blocksize=buffer_size)with stream:print("Listening...")while True:sd.sleep(1000)  # 继续监听# 开始流式解码
start_streaming()

代码说明

依赖加载：
- torch 和 torchaudio 用于音频处理和模型推理。
- whisper 是 OpenAI 的 Whisper 模型的库，用于加载和使用预训练模型。
- sounddevice 用于从麦克风捕获实时音频。
- numpy 用于音频数据处理。
流式解码函数 stream_decode：
- 接受音频缓冲区并使用 Whisper 模型进行解码。
- 返回解码后的文本。
音频缓冲区和参数设置：
- buffer_size 定义每个音频块的大小，这里设置为1秒（16000个样本）。
- audio_buffer 是一个大小为10秒的预留缓冲区。
- buffer_offset 用于跟踪当前缓冲区的位置。
- silence_threshold 是音量门限，用于检测有无声音。
麦克风回调函数 callback：
- 从麦克风捕获音频数据并将其存储到缓冲区中。
- 计算当前音频块的音量，如果音量超过门限，则将音频数据添加到缓冲区，并进行解码处理。
- 解码后打印转录结果，并移动缓冲区的数据以准备处理下一个音频块。
- 如果音量低于门限，将缓冲区位置重置。
启动麦克风流 start_streaming：
- 使用 sounddevice.InputStream 创建一个音频流，并在回调函数中处理音频数据。
- 启动流并持续运行，通过 while True 循环保持监听状态。