参与Orpheus-FastAPI开发项目结构剖析与如何快速添加新语音【免费下载链接】Orpheus-FastAPIHigh-performance Text-to-Speech server with OpenAI-compatible API, 8 voices, emotion tags, and modern web UI. Optimized for RTX GPUs.项目地址: https://gitcode.com/gh_mirrors/or/Orpheus-FastAPIOrpheus-FASTAPI是一个高性能的文本转语音Text-to-Speech, TTS服务器提供 OpenAI 兼容 API、8 种语言共 24 种语音、情感标签和现代化 Web 界面专为 RTX GPU 优化。本文将带你剖析它的项目结构并手把手教你如何在几分钟内快速添加一个新语音。 先认识一下 Orpheus-FASTAPIOrpheus-FASTAPI 本身不直接跑大模型而是作为前端服务把文本发给外部的 LLM 推理服务器如 llama.cpp拿到语音 token 流后再用 SNAC 声学模型实时转成音频。这种架构让它轻松获得 GPU 加速的实时合成速度。启动后的 Web 界面非常直观输入文本、选择语言和语音卡片还能使用laugh、sigh等情感标签生成音频后可直接在页面上播放和下载。 项目结构剖析三层架构一眼看懂整个仓库非常精简核心代码只有三个 Python 文件新手完全可以在半天内读懂全部逻辑模块职责app.pyFastAPI 服务入口HTTP 路由、Web UI、配置读写、服务器一键重启tts_engine/inference.py核心推理层语音列表管理、提示词格式化、流式 token 生成、长文本分句批处理与音频拼接tts_engine/speechpipe.py音频管道调用 SNAC 模型把 token 帧转成 24kHz WAV 音频块针对 CUDA 做了向量化优化templates/tts.htmlWeb UI 模板语音卡片、波形可视化、服务器配置面板其余文件各司其职requirements.txt 定义依赖Dockerfile.gpu、Dockerfile.cpu、Dockerfile.gpu-rocm 配合三个 docker-compose 文件实现 CUDA / ROCm / 纯 CPU 三种一键部署生成音频统一存放在outputs/目录。启动python app.py后终端会打印完整的硬件检测结果GPU 型号、显存、计算能力和加载的配置方便你确认环境是否处于 GPU 优化模式API 文档页面/docs则列出了/v1/audio/speech、/speak等全部 OpenAI 兼容端点便于调试 数据流一句话如何变成一段声音理解数据流是参与开发的前提。一次语音生成的完整链路如下请求进入/v1/audio/speech端点收到文本与语音名如tara超过 1000 字符时自动启用分句批处理提示词格式化format_prompt 将请求包装成|audio|tara: 文本|eot_id|的形式——语音名就是提示词的前缀这正是添加新语音的原理所在流式生成向ORPHEUS_API_URL指向的推理服务器发起流式请求逐 token 产出内置 3 次指数退避重试token 转音频tokens_decoder 每 7 个 token 为一批首个块仅等 7 个 token实现超低延迟首响交给 speechpipe.py 的 SNAC 模型解码拼接输出长文本的各批次音频以 50ms 交叉淡入淡出无缝拼接。所有关键参数API 地址、超时、最大 token 数、温度、端口都通过.env环境变量管理也可以在 Web 界面直接修改并一键重启生效️ 快速添加新语音4 步搞定Orpheus 模型已经内置了大量发音人因此添加新语音不需要任何模型训练只需在项目里注册语音名即可。第 1 步克隆仓库git clone https://gitcode.com/gh_mirrors/or/Orpheus-FastAPI cd Orpheus-FastAPI第 2 步在推理层注册语音名打开 tts_engine/inference.py语音按语言分组维护。假设要为英语添加一个名为nova的新语音只需在英语列表中加入它ENGLISH_VOICES [tara, leah, jess, leo, dan, mia, zac, zoe, nova]AVAILABLE_VOICES和VOICE_TO_LANGUAGE都是由这些语言列表自动聚合生成的见 第 150-174 行无需手动重复维护API 端点/v1/audio/voices也会自动返回新语音。第 3 步在 Web UI 中添加描述打开 templates/tts.html模板通过for voice_option in voices循环渲染语音卡片每个语音有一句性别 语言 风格的描述如Female, English, calm, soothing。按同样的elif格式为新语音补上一行描述即可{% elif voice_option nova %}Female, English, bright, confident第 4 步重启并验证运行python app.py访问 Web UI 确认新语音卡片出现在列表中或请求/v1/audio/voices接口验证 API 侧已生效。⚠️小提示语音名必须是你所用 Orpheus 模型微调过的发音人名称否则模型会听不出这个人该用什么声音。添加新语言时还需同步在AVAILABLE_LANGUAGES列表和 UI 的语言切换按钮中加入对应语言。 参与开发前建议通读这几个文件app.pyOpenAI 兼容端点/v1/audio/speech的完整请求处理流程tts_engine/inference.pygenerate_speech_from_api的批处理与性能统计逻辑tts_engine/speechpipe.pySNAC 音频解码的 GPU 向量化实现requirements.txtFastAPI、SNAC、numpy 等核心依赖清单Orpheus-FASTAPI 的代码量小、职责清晰是一个非常适合新手的 TTS 开源项目。读懂提示词 → token 流 → SNAC 音频这条主线后无论是添加语音、接入新的推理后端还是为 Web UI 增加功能你都已经具备了上手贡献的能力。【免费下载链接】Orpheus-FastAPIHigh-performance Text-to-Speech server with OpenAI-compatible API, 8 voices, emotion tags, and modern web UI. Optimized for RTX GPUs.项目地址: https://gitcode.com/gh_mirrors/or/Orpheus-FastAPI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考