开源推荐
morning
GitHub 热门项目:语音转语音
摘要
GitHub项目:speech-to-speech 仓库地址:https://github。
https
approach
com
huggingface
github
2026-05-26
1 阅读
GitHub Trending
GitHub 项目:语音转语音
仓库地址:https://github.com/huggingface/speech-to-speech
星级:4761 | 作者:拥抱脸
项目描述:使用开源模型构建本地语音代理
===================================================
自述文件内容:
# Speech To Speech:使用开源模型构建本地语音代理
## ? 快速索引
* [方法](#approach)
- [结构](#结构)
- [模块化](#模块化)
* [设置](#设置)
* [用法](#用法)
- [实时方法](#realtime-approach)
- [服务器/客户端方法](#serverclient-approach)
- [WebSocket 方法](#websocket-approach)
- [本地方法](#local-approach-running-on-mac)
- [法学硕士后端](#llm-backend)
- [实时模式](#realtime-mode)
- [Docker 服务器方法](#docker-server)
* [命令行用法](#command-line-usage)
- [模型参数](#model-parameters)
- [生成参数](# Generation-parameters)
- [值得注意的参数](#notable-parameters)
## 方法
### 结构
该存储库实现了一个语音到语音级联管道,由以下部分组成:
1. **语音活动检测 (VAD)**
2. **语音转文本 (STT)**
3. **语言模型(LM)**
4. **文本转语音 (TTS)**
### 模块化
该管道提供了完全开放的模块化方法,重点是利用 Hugging Face 中心上的 Transformers 库提供的模型。该代码旨在轻松修改,并且我们已经支持特定于设备和外部库的实现:
**VAD**
- [Silero VAD v5](https://github.com/snakers4/silero-vad)
**STT**
- 通过 Transformers ? 在 Hugging Face Hub 上的任何 [Whisper](https://huggingface.co/docs/transformers/en/model_doc/whisper) 模型检查点,包括 [whisper-large-v3](https://huggingface.co/openai/whisper-large-v3) 和 [distil-large-v3](https://huggingface.co/distil-whisper/distil-large-v3)
- [闪电耳语 MLX](https://github.com/mustafaaljadery/lightning-whisper-mlx?tab=readme-ov-file#lightning-whisper-mlx)
- [MLX Audio Whisper](https://github.com/huggingface/mlx-audio) - Apple Silicon 上的快速 Whisper 推理
- [Parakeet TDT](https://huggingface.co/nvidia/parakeet-tdt-1.1b) - Apple Silicon 上延迟低于 100 毫秒的实时流式 STT(通过 nano-parakeet 的 CUDA/CPU,无 NeMo)
- [Paraformer - FunASR](https://github.com/modelscope/FunASR)
**法学硕士**
- 通过 Transformers 在 [Hugging Face Hub](https://huggingface.co/models?pipeline_tag=text- Generation&sort=trending) 上任何遵循指令的模型 ?
- [mlx-lm](https://github.com/ml-explore/mlx-examples/blob/main/llms/README.md)
- [OpenAI API](https://platform.openai.com/docs/quickstart)
**语音合成**
- [ChatTTS](https://github.com/2noise/ChatTTS?tab=readme-ov-file)
- [Pocket TTS](https://github.com/kyutai-labs/pocket-tts) - 来自 Kyutai Labs 的带语音克隆的流式 TTS
- [Kokoro-82M](https://huggingface.co/hexgrad/Kokoro-82M) - 针对 Apple Silicon 优化的快速、高质量 TTS
- [Qwen3-TTS](https://huggingface.co/Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice)
## 设置
从 PyPI 安装默认包:
````bash
pip 安装语音转语音
````