尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
Breeze TTS 2部署指南:Docker镜像、A100/H100适配与显存需求全解析
【免费下载链接】Breeze-TTS-2项目地址https://ai.gitcode.com/hf_mirrors/BreezeBlue/Breeze-TTS-2点击查看免费下载Breeze TTS 2 是一款面向实时交互的开源权重文本转语音Text-to-Speech模型。本指南带你完成 Breeze TTS 2 部署全流程Docker 镜像构建、A100 / H100 GPU 适配以及 eager 与 fast 两条推理路径的显存需求解析帮你在 12GB80GB 显存的显卡上快速选对配置。 模型概览与硬件门槛Breeze TTS 2 在 Artificial Analysis TTS 排行榜中位列开源权重模型第一支持三大核心能力能力说明️ Voice Clone声音克隆用参考音频 准确文字稿复刻音色、节奏与情绪 Voice Design声音设计仅凭自然语言描述造一个声音无需参考音频️ Voice Direction声音执导保留参考音色同时用指令控制语气、语速、情绪关键规格来自 config.json总参数约 34.7 亿bfloat16权重大小约 6.5GB见 model.safetensors.index.json骨架为 Qwen3 1B28 层音频端基于 Mimi Codec采样率24kHz中英双语支持(laugh)、[叹气]等声音事件内联标记性能基准NVIDIA H100 快速路径首包延迟 40msTTFA实时率0.32约 3.1 倍实时⚠️License 提醒推理代码为 Apache 2.0但模型权重与自部署产物仅限研究与非商业用途详见 LICENSE。 一键下载模型检查点Breeze TTS 2 的模型检查点即本仓库克隆即可git clone https://gitcode.com/hf_mirrors/BreezeBlue/Breeze-TTS-2检查点内已包含全部推理组件目录结构如下model-00001-of-00002.safetensors、model-00002-of-00002.safetensors主模型权重分片存储config.json模型结构与超参数generation_config.json采样参数temperature 0.9audio_tokenizer/音频分词器Mimi 编解码器权重与配置README.md官方完整文档官方 PyTorch 推理代码仓库breeze-tts含infer.py、requirements.txt与docker/build.sh需另行获取克隆后建议与本检查点放在同级目录python -m pip install -r requirements.txt Docker 镜像构建H100 默认A100 需改架构官方提供了经过实测的 CUDA 环境在推理代码仓库中构建镜像# 默认目标H100 / Hopper 架构sm90 bash docker/build.sh # A100 / Ampere 架构sm80指定 Flash Attention 编译架构 FLASH_ATTN_CUDA_ARCHS80 bash docker/build.sh为什么 A100 必须加FLASH_ATTN_CUDA_ARCHS80默认镜像里的 Flash Attention 内核只编译了 sm90H100。A100 属于 Amperesm80若不加该环境变量运行时会出现 Flash Attention 内核不匹配的报错指定后会在镜像构建阶段为 sm80 重新编译内核镜像体积略增、耗时稍长。GPU架构构建命令H100 (SXM/PCIe)Hopper / sm90bash docker/build.shA100 (SXM/PCIe)Ampere / sm80FLASH_ATTN_CUDA_ARCHS80 bash docker/build.sh 显存需求全解析12GB 还是 24GBBreeze TTS 2 提供两条推理路径显存占用差异明显推理模式显存占用最低推荐显存特点Eager默认≈ 7.7 GiB12 GB启动快、零冷启动开销日常够用--fast-all快速路径≈ 14.4 GiB24 GB启用 CUDA Graph 全阶段加速延迟/吞吐最优常见 GPU 选型建议显卡显存推荐用法H10080GB官方性能基准设备eager / fast 全开多并发从容A10040/80GBeager / fast 均流畅fast 路径显存余量充足RTX 4090 / 309024GBeager 很宽裕fast 路径14.4GiB可行RTX 306012GB仅建议 eager7.7GiB官方最低配置选型口诀只跑默认 eager 选 12GB 卡追求 40ms 级低延迟的 fast 路径直接上 24GB 起。 部署后快速验证3 条命令1声音克隆中文——参考音频需为干净人声并配准确文字稿python infer.py ../breeze-tts-2 \ --ref-audio reference_zh.wav \ --ref-text 这是中文参考音频的准确文字稿。 \ --text [叹气] 没想到过了这么久你还记得我的声音。 \ --output outputs/voice_clone_zh.wav2声音设计——无参考音频纯描述生成声音--cfg-scale 4可强化指令遵循python infer.py ../breeze-tts-2 \ --text [笑] 欢迎来到今晚的故事时间让我们一起开始吧。 \ --instruction 一位温柔自信的年轻女性声音清晰语气亲切表达轻快而富有感染力。 \ --cfg-scale 4 \ --output outputs/voice_design_zh.wav3启动流式 API——输出单声道 24kHz 16-bit PCM 流可挂--fast-all启用快速路径python -m breeze_infer.api ../breeze-tts-2 --host 0.0.0.0 --port 7860快速路径可按阶段独立开关--fast-text-encoder、--fast-backbone-prefill、--fast-codec等一般只需整体使用--fast-all各阶段参数主要用于性能剖析与调试。❓ 常见问题 FAQQ为什么 12GB 显卡跑不了--fast-allfast 路径需要约 14.4 GiB而 12GB 显卡实际可用显存约 11.2 GiB必然 OOM。此时请回退到默认 eager 模式≈7.7 GiB。QA100 上运行报 Flash Attention 相关错误默认镜像只含 sm90 内核请用FLASH_ATTN_CUDA_ARCHS80 bash docker/build.sh重新构建。Q部署出来的音频能商用吗不能。权重与自部署产物受 BreezeBlue 研究与非商业许可证约束见 LICENSE商用需通过官方托管平台或 API订阅不赋予自托管产物的商业权利。Q必须用 Docker 吗不是。Linux Python 3.10 CUDA GPU 环境下直接pip install -r requirements.txt亦可Docker 的优势是复现官方实测环境省去依赖排坑。✅ 小结H100默认镜像直接构建fast 路径体验完整TTFA 40msA100加FLASH_ATTN_CUDA_ARCHS80构建 sm80 镜像显存eager ≈ 7.7 GiB12GB 起fast ≈ 14.4 GiB24GB 起检查点本仓库克隆即用代码为 Apache 2.0、权重限研究与非商业用途赞分享【免费下载链接】Breeze-TTS-2项目地址https://ai.gitcode.com/hf_mirrors/BreezeBlue/Breeze-TTS-2点击查看免费下载相关推荐几张显卡才够InternVL3.5-241B-A28B-Pretrained显存需求与8卡A100部署配置实战几张显卡才够InternVL3.5 241B A28B Pretrained显存需求与8卡A100部署配置实战 InternVL3.5 241B A28B P8倍提速20倍显存优化FlashAttention在A100/H100上的CUDA部署指南8倍提速20倍显存优化FlashAttention在A100/H100上的CUDA部署指南 你是否在训练长文本模型时遇到过内存溢出是否因注意力计算速度慢而人工智能大模型算子库深度学习Zipkin Docker 镜像完全指南生产镜像、docker-compose 部署与配置实战Zipkin Docker 镜像完全指南生产镜像、docker compose 部署与配置实战 导读 本文以 Zipkin 仓库 docker/README.可观测性后端微服务上一篇Turbo框架中的组件设计原则单一职责与复用性下一篇SerialTool网络调试完全指南TCP/UDP通信调试从入门到精通创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED

相关推荐

EmulatorJS:浏览器里的网页版模拟器,3 分钟搭好自己的复古游戏库

EmulatorJS:浏览器里的网页版模拟器,3 分钟搭好自己的复古游戏库

EmulatorJS:浏览器里的网页版模拟器,3 分钟搭好自己的复古游戏库 【免费下载链接】EmulatorJS A web-based frontend for RetroArch 项目地址: https://gitcode.com/GitHub_Trending/em/EmulatorJS EmulatorJS 是一个基于 JavaScript 的 RetroArc…

📅 2026/10/18 1:32:02
能商用吗?Medical-Reasoning-SFT-GPT-OSS-120B许可证Apache-2.0解读与医疗数据合规清单

能商用吗?Medical-Reasoning-SFT-GPT-OSS-120B许可证Apache-2.0解读与医疗数据合规清单

【免费下载链接】Medical-Reasoning-SFT-GPT-OSS-120B 项目地址: https://ai.gitcode.com/hf_mirrors/OpenMed/Medical-Reasoning-SFT-GPT-OSS-120B 点击查看 免费下载 结论先行:Medical-Reasoning-SFT-GPT-OSS-120B 是一个 Apache-2.0 许可证 的开源医…

📅 2026/10/18 1:32:02
变频器EMC测试与整改实战:传导辐射抗扰度全解析

变频器EMC测试与整改实战:传导辐射抗扰度全解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📅 2026/10/18 1:32:02
MORE NEWS

更多资讯

📰

OpenResearch:面向科研工作流的本地优先CLI协议栈

1. 项目概述:OpenResearch 是什么,它解决的不是“另一个 CLI 工具”,而是研究工作流的结构性失衡OpenResearch 不是一个新发布的命令行工具二进制包,也不是某个大厂刚开源的 AI 编程插件。它是一套面向真实科研与工程研究场景的本…

📰

AIUI数据库客户端真实压力测试实录

1. 这不是Demo跑通,是真实数据库客户端的“压力考场”TestStar 这个名字在内部测试圈里,早就不只是个工具代号了——它是一套被OceanBase、TiDB、达梦等国产数据库团队反复验证过的真机测试框架。而这次标题里的“AIUI 真实数据库客户端测试Case执行实录…

📰

Milvus+LangChain+Ollama打造生产级RAG:元数据与标签过滤实战

Milvus LangChain Ollama 这套组合,我大概见过不少团队在搭,但说实话,十有八九都卡在同一个地方:不是向量检索跑不起来,而是元数据(Metadata)和标签(Tag)的处理太糙了。…

📰

Android自定义图片SeekBar:接管onDraw实现精准触摸进度条

简介:Android自定义SeekBar实例工程,面向有一定Android基础、希望美化控件样式的开发者。资源讲解如何用图片替代系统默认进度条背景与滑块,通过继承SeekBar、定义自定义属性并在布局中引用,实现个性化视觉效果,可应用…

📰

芯片全流程低功耗设计:从UPF规范到物理签核的PPA协同优化

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

biliTickerBuy 抢票辅助工具:扫码登录到一键开抢的完整上手指南

biliTickerBuy 抢票辅助工具:扫码登录到一键开抢的完整上手指南 【免费下载链接】biliTickerBuy b站会员购购票辅助工具 项目地址: https://gitcode.com/GitHub_Trending/bi/biliTickerBuy 晚上八点开票,你在会员购页面狂点刷新,手速再…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬