免费POC, 零成本试错
FDE知识库

FDE知识库

学习大模型的前沿技术与行业落地应用


收藏

IndexTTS 2.5 让声音跨越语言

发布日期:2026-08-17 15:25:05 浏览次数: 1722
作者:哔哩哔哩技术

微信搜一搜,关注“哔哩哔哩技术”

推荐语

B站IndexTTS 2.5支持中英日西阿五国语言零样本配音,推理速度翻倍,情绪还原自然,团队打磨更成熟的AI语音合成工具。

核心内容:
1. 立项初心:解决多语言需求与推理速度问题
2. 核心升级:五国语言适配+速度翻倍+情绪自然还原+语速控制
3. 技术打磨:基于主流零样本TTS范式,多语言建模策略对比与优化

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家

不赶进度、专注打磨!今天想和大家聊聊我们最新发布的 IndexTTS 2.5,支持中/英/日/西/阿五国语言零样本配音,推理速度翻倍升级,跨语言情绪还原更自然,同时也支持原声的语速控制能力,补齐上代模型短板。在AI语音合成领域,B站自研的 IndexTTS 系列一直以高情绪还原度、可落地性强著称。这次新版 IndexTTS 2.5 并没有快速迭代更新,而是团队进行了长时间、全方位的深度打磨。宁愿推迟发布,也要把速度、音质、多语种适配、情绪自然度全部优化到位,最终给大家带来更成熟、更好用的全新版本。

👉 仓库地址 (记得Star🌟):https://github.com/index-tts/index-tts

👉 官方宣传片(求三连🎉):https://www.bilibili.com/video/BV1uvMk6ZEdK/

👉 论文地址:https://arxiv.org/abs/2601.03888

👉 Demo展示地址:https://github.com/index-tts/index-tts2-5.github.io



为什么要做 2.5?


去年 IndexTTS 2 发布后,非常受社区小伙伴们喜爱,情感和音色解耦组合的能力,让不少创作者在有声书、视频配音场景里玩出了花。

但我们也收到了很多真实的反馈,其中最集中的两条是:

  •  “只会中英双语不够用啊”——想让自己的声音说日语、说西语;

  •  “好是好,就是有点慢”——实时性场景里等得着急。

这两条反馈,成了 IndexTTS 2.5 的立项初心。经过大半年的打磨,我们交出的答卷是:

  •  🔥 跨语种情感复刻:进一步打磨情绪韵律表现与音色还原效果,整体稳定性大幅提升;

  •  🌍 多语言升级:一站式支持中文、英语、日语、西班牙语、阿拉伯语五大语种,满足语种多样化的配音需求;

  •  ⚡ 更快更轻:对推理架构进行轻量化重构,有效提升推理运行效率;

  •  🎙️ 灵活语速:开放语速控制能力,满足创作需求

下面和大家展开聊聊我们是怎么做的。


先站在巨人的肩膀上看看路


语音合成这两年发展很快,技术路线也几经分化。我们在报告里梳理了一张主流零样本 TTS 的技术全景图:


目前最主流的范式是:语言模型先生成承载发音和韵律的"语义 token",再由流匹配模块还原声学细节,最后经声码器输出波形。IndexTTS 2.5 沿用了 IndexTTS 2 验证过的这条主干,把火力集中在四个关键升级点上。


升级一:多语言,难在"同一个字两种读法"


做多语言 TTS,最头疼的问题之一是跨语言共享字符。举个最典型的例子:日语里大量使用的汉字,模型看到它,到底该按中文读还是按日文读?

为了系统地回答这个问题,我们设计并公平对比了三种建模策略:


一个重要的发现是:没有银弹,三种策略各有擅长且互补。我们把完整的对比结论写进了报告,希望能给同行们做多语言系统时提供一些可直接参考的设计原则。

巧妇难为无米之炊。为了喂饱多语言模型,我们还搭了一条自动化数据管线—带事件分类的 VAD 切分(区分语音/歌唱/伴奏/噪声比例)、一体化 ASR(识别 + 说话人日志 + 标点恢复)、选择性音源分离(仅伴奏片段用 Demucs 抽人声,避免音质劣化)、基于说话人一致性与文本连贯性的片段合并(单说话人、≤25s)、音频质量 + 文本质量双重过滤。


最终我们攒下了约 15 万小时的多语言语料,外加 135 小时情感语音。


升级二 & 三:瘦身组合拳——

序列砍半 + 换个更轻的"心脏"


提速这块,我们打了套组合拳:

第一拳:语义 Codec 帧率从 50Hz 压到 25Hz。 语义 token 序列长度直接减半,训练和推理的计算量、显存占用都大幅下降,而语言信息几乎无损。

第二拳:S2M 模块主干从 U-DiT 换成 Zipformer。 参数更少、生成更快。有意思的是,主观盲测里 Zipformer 版本反而以 56% vs 40% 的偏好率赢下了更复杂的 U-DiT——大道至简。


两拳叠加,效果直接看数据(相同 A10 硬件环境):

T2S 模块 RTF 从 0.232 降到 0.119,S2M 模块从 0.078 降到 0.017,整体提速约 2.28 倍,主观听感无可感知下降。对实时交互场景来说,这是从"能用"到"好用"的一步。


升级四:让模型自己"卷"自己——

GRPO 后训练


我们把 GRPO 强化学习引入了 T2S 模块的后训练:同一段文本让模型随机生成 4 个候选语音,用 ASR 词错误率和说话人相似度当"裁判"打分,让模型自己朝着"读得对、像本人"的方向进化。

收获是实打实的:五语言平均 WER 从 6.75% 降到 6.00%,平均说话人相似度从 73.18 升到 73.63,英、日、阿语的提升尤其明显。


效果怎么样?上数据


零样本语音克隆:在五种语言的评测中,IndexTTS 2.5 平均说话人相似度最高,但WER比4B模型Fish Audio S2 Pro略差一单,整体处于第一梯队:

注:图中仅列入五种语言均有完整结果并报告平均值的模型;带 † 的数据引用自各模型原论文,WER 越低越好,SS 越高越好


跨语言合成:用一段中文语音做参考,让同一个音色开口说英、日、西、阿语,IndexTTS 2.5 综合成绩全场最佳:


情感迁移:情感训练只用了中文和英文数据,但模型把"情绪"带到了所有语言——阿语情感测试(还是用日语 prompt 的极限设定)MOS 达到 4.18/5;在 CV3-Eval 情感零样本基准上,中文情感识别准确率 0.713,比 CosyVoice3 的 0.467 高出一大截。

多语言情感合成对比(IndexTTS 2.5 vs CosyVoice3):


情感感知评测(CV3-Eval Emotion-ZeroShot 基准):


简单说:你给它一段开心的中文,它能让一个西班牙语的声音同样开心。 情感,音色,语种被明显解耦了。


写在最后


从 IndexTTS 1 到 2 再到 2.5,这个系列的每一步成长都离不开社区的关注和反馈。这一次,我们希望 IndexTTS 2.5 能让"用任何声音、说任何语言、带任何情绪"这件事,离每一位创作者更近一点。也欢迎在评论区聊聊你的使用场景和建议——你们的每一条反馈,都是下一个版本的立项书。

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询

扫码登录
登录即表示您同意《53AI网站服务协议》
服务协议

欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

一、 定义

本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

二、 账号注册与登录

登录方式:本网站支持以下登录方式,您可根据实际情况选择:

微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

三、 服务内容与规范

知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

禁止行为:您在使用服务时不得实施以下行为:

利用技术手段批量爬取、下载、转存知识库内容;

将知识库内容用于商业目的或未经授权地向第三方传播;

干扰本网站正常运行或侵犯其他用户合法权益;

发布违法违规信息或从事违反公序良俗的活动。

四、 知识产权声明

权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

五、 个人信息保护

我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

六、 免责声明

内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

七、 违约责任

如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

八、 法律适用与争议解决

本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

九、 其他

本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


已查阅