网易首页 > 网易号 > 正文 申请入驻

几十个测试后,发现海螺语音与 ElevenLabs 掰手腕的能力不是盖的

0
分享至


MiniMax 的海螺语音很难找到对手。

作者丨王悦

编辑丨林杰鑫 陈彩娴

试想一个场景,职场中接到一个香港客户的单子,但是在交付的过程中耽搁了时间,现在要进行线上沟通解释,那么你面对的情况大致是这样的:

如果不对这段音频进行标注,可能大部分人会认为这一粤语、英语混用的片段是真实发生或从TVB电视剧里截出来的。但其实,这是由 AI 完成的配音,背后所使用的工具是海螺语音。

今年 1 月,继 MiniMax 发布并开源基础语言大模型 MiniMax-Text-01 和视觉多模态大模型 MiniMax-VL-01 后,再次推出了升级的语音大模型 T2A-01 系列,搭载于海螺 AI 之上,开辟海螺语音板块。相较于旧版本, T2A-01 系列语音模型能够提供更快、更稳的语音生成能力,不仅具有音质稳定清晰、韵律自然、情绪精准表达、高准确度等特点,还能支持包括中文、粤语、英语在内的 17 种语言上百种预置音色可选。

从以上的音频中可以听出,海螺语音能够准确理解并无缝处理不同的语种,并饱含语气、以接近人声的自然度讲出来,这就是目前海螺语音无需抽卡就可以达到的稳定水平。接下来,我们通过海螺语音和其他语音生成产品的对比来来感受一下,无需抽卡即可以达到高水平的稳定输出是什么样的概念。

测试问题为一个终极难度的绕口令“施氏食狮史”,主要考验的是语音大模型在面对大量同声词时的处理能力。(原文:石室诗士施氏,嗜狮,誓食十狮。氏时时适市视狮。十时,适十狮适市。是时,适施氏适市。氏视是十狮,恃矢势,使是十狮逝世。氏拾是十狮尸,适石室。石室湿,氏使侍拭石室。石室拭,氏始试食是十狮尸。食时,始识是十狮尸,实十石狮尸。试释是事。)

先来听由 ChatTTS 生成的内容:

整个过程中字与字的区别并不大,产生很强的粘连感,听起来像石狮石狮石狮石狮......可以说听不出来在读什么。

再来听 ElevenLabs:

可能是模型幻觉的原因, ElevenLabs 在读的时候很喜欢“呱呱叫”,就算去调整语速也不会好转。但相较于ChatTTS,已经有一个明显的质量上的提升,字与字之间能够区分开,并且语音中有语调和情绪在。


再来听 MiniMax 的海螺语音输出的内容:

首先,整段声音听起来偏向自然,没有像 ChatTTS 一样从头到尾一个音,也没有ElevenLabs 表现出的“呱”的声音的明显瑕疵。虽然并不是完美无瑕,部分词语上也有断句的问题,但在 80% 的短句中已经有显著惊艳的表现,对音调、分词错落、节奏和断句能听出表意,这反映的是语音模型背后的理解能力。

在一众生产力工具向的 AI ChatBot 中,海螺 AI 是唯一一个能提供独立的语音模型板块给用户、让用户自定义生成音频的产品。

1

能与 ElevenLabs 掰手腕的多语言合成能力

国内无论是大厂还是创业公司,在语音模型能力上都会对标 ElevenLabs。ElevenLabs 凭借其高质量语音合成、多语种能力、个性化语音生成和强大的API支持,成为了当前语音合成领域的领先产品之一

在 T2A-01 模型的能力支持下,海螺 AI 所生成的语音在相似度、错误率和听感评测上均领先于同类产品,能与 ElevenLabs 掰手腕。MiniMax 团队采用和 Seed-TTS 论文相同的评测集和评测工具来计算海螺语音的字错率和相似度。结果显示,海螺语音在中文的字错率和相似度最好,英文的字错率、相似度和真实录音「Human」接近。


根据用户真实场景,MiniMax 建立了多语种评测集,并对17个语种进行客观评测。其中,每种语言选取2-10个音色,生成50条以上音频进行评估。结果显示,海螺语音相似度整体占优,综合能力媲美 ElevenLabs。在中文、粤语、英语、日语、韩语和阿拉伯语等多个语种上,海螺语音的相似度、正确率方面大幅领先。


那么 T2A-01 的多语种能力究竟如何?先来让它用嚣张小姐的语气,带着开心的情绪,以正常速度,用九种语言说出杨幂的经典广告语:你没事吧?(1、中文:你没事儿吧 2、英语:Are you okay? 3、日语:大丈夫ですか?(Daijōbu desu ka?)4、法语:Ça va? 5、德语:Geht es dir gut? 6、西班牙语:¿Estás bien? 7、俄语:Ты в порядке?(Ty v poriadke?)8、韩语:괜찮아요?(Gwaenchanayo?)9、意大利语:Stai bene?)

你还真别说,第一声出来的时候还真有点像杨幂的声音。之后的小语种发音清晰,也能从语流语调间感受到开心的情绪。

再来看这个视频,其中的配音语言采用德语,在音色调节效果中选择了空旷回声音效,出来的效果完全没有 AI 味儿,仿佛女政客在国会现场的慷慨陈词。

2

精准情绪+音色控制的王炸组合

于机器而言,准确地进行情绪表达一直是难点所在。语音模型情感表达的训练依赖于大量标注数据,但这些数据往往存在偏差,某些情感可能被过度强调,而另一些则被忽视,导致模型在处理这些情感时不够准确。于 TTS 行业而言,即使模型能够理解情感,生成的情感表达也可能显得生硬或不自然,模型可能难以在语音中保持情感的一致性,或者无法模拟真实人类情感的细微变化。

为了让声音更加鲜活,情绪表达更加精准,MiniMax对长达超千万小时的高质量音频数据进行加工、训练,最终实现高音质、情感丰富的声音效果。先来通过朗读古诗简单感受下,所选取内容为:“惟觉时之枕席,失向来之烟霞。世间行乐亦如此,古来万事东流水。”由于粤语接近古汉语的方言,所以用粤语念诗会更贴近古人念诗时的表现,对情感的考验也相较于白话文稍上了一个高度,因此输入的 prompt 为:“惟覺時之枕席,失向來之煙霞。世間行樂亦如此,古來萬事東流水。”

市面上的大部分语音模型可以对这一题稳定输出,但MiniMax不止于此。最新发布的海螺语音具备情感理解能力,能够智能地识别并重现语音中细微的情感差别,用户既可以让系统自动检测情绪,也可以明确指定情绪,从而生成能够精准捕捉人类深层情感的语音输出。在指定情绪中,除了中性外,有开心、难过、生气、害怕、厌恶、惊讶效果可选,自然而逼真。

在日常的对话表达,或商业化场景中,情绪往往是多变且富有层次的,这个是过去的语音大模型较难攻克的痛点。但海螺语音实现了这一突破,可以分段控制不同的情绪。例如,同样是表达老人害怕的情绪,想进一步从声音中感受到从害怕到难过再到开心的完整情绪变化,海螺AI给出了如下的答案:

从妇人发现怪老头冲自己喊叫时的紧张、惊慌、害怕,到发现是自己年轻时的堂哥走散落魄至此,此时声音变低落展现难过,再到重逢时的开心有明显的音调上扬,海螺 AI 对输入的文字有精准理解,对输出的声音也可以做到层次分明,精细地控制。

除了情绪的精准控制外,海螺语音的另一个明显优势时预置不同语种共计300+音色供用户选择,用户可按语言、口音、性别和年龄分类筛选。音色多变,不羁、诙谐、慈祥等风格丰富多样,有声书、ASMR耳语、新闻播报等场景均可适用。


在平台给定的音色基础上,用户也可以根据偏好对低沉/明亮、力量感/柔和、磁性/清脆等细节进行自定义,同时也可以增加类似于空旷回声、礼堂广播、电话失真等场景感。

选择“花甲”奶奶这一音色,也可以通过调试台对语速、声调、音量进行调节。


将花甲奶奶的声音设置为语速和声调降低,情绪输出为害怕,就能获得讲恐怖故事很有氛围感的说书声音。

在87版《红楼梦》中,林黛玉的角色被成功塑造,这一文学佳作在香港也曾拍过多版。如果在香港引进87版的黛玉,“花谢花飞花满天,红消香断有谁怜”该如何用粤语配音呢?一起来感受一下:

该片段中的配音由海螺语音完成,可以切实感受到,海螺语音在情绪和音色控制方面的实力所在,如果将两者进行结合,可以说,几乎能随心所欲地生成想要的语音效果,满足更多为影视作品引进和配音的潜在需求。

3

面向AGI,坚定多模态

在 AI 公司的多模态模型能力开发顺序上,音频似乎很难排在文字、图片、视频能力之前,给行业造成一种“音频模型相对滞后”印象。但实际上,语音大模型的开发难度和技术门槛都非常高,数据的稀缺性是制约模型能力的关键难点,从海量数据中剥离出语音到对多语言、多口音、多情绪的语音进行标注,都需要高昂的成本。因此在多模态公司的布局中,对其开发往往需要在具备一定的技术积累和资源支持后才逐步推进。

近半年的时间以来,国内多家大厂发布了语音模型。去年7月,阿里开源了一个语音大模型项目 FunAudioLLM,包含了 SenseVoice(语音识别) 和 CosyVoice(语音生成)两个模型;今年1月,字节跳动上线了实时语音大模型,并将基于此模型全量上线豆包 App 实时语音通话功能。半年之内,诸多大厂的跟进和成绩意味着语音大模型的发展潜力不小。

而在 AI 创业公司中,鲜少有哪家语音能力突出, MiniMax 是一个,甚至其对语音大模型的开发投入时间早于大厂。2023年11月,MiniMax 就发布了初代语音大模型 abab-speech系列,支持多角色音频生成、文本角色分类等功能。发布至今,MiniMax语音模型已经服务阅文起点有声书、高途教育等近万家企业用户与个人开发者。


2024年10月,MiniMax Realtime API 亮相 RTE 2024实时互联网大会,系国内首个Realtime API

2025开年,MiniMax保持高昂的状态。在此次发布语音模型之前,就已经接连发布了视频模型S2V-01,并在Github开源了新一代MiniMax-01模型,与DeepSeek共同对传统Transformer架构与高训练成本发起挑战。MiniMax创始人透露,“我们认为这有可能启发更多长上下文的研究和应用,从而更快促进AI Agent时代的到来。开源了一方面可以逼着我们提高算法创新效率,另一方面也能打造全球技术品牌。”

从文本、视频,到语音能力的全面更新,只能说,MiniMax和海螺 AI 是会给人带来惊喜的——这也是对多模态模型的长期投入和持续发力的结果。MiniMax 的主心骨一直都是面向 AGI 投入,而多模态能力就是现阶段最明晰的路径。




更多内容,点击下方关注:

未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!

公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
郑秀文香奈儿造型炸场,时尚表现力满分

郑秀文香奈儿造型炸场,时尚表现力满分

述家娱记
2025-06-20 22:20:27
王思聪带懒懒买kitty猫,逛游乐园,看海,网友:越来越有夫妻相

王思聪带懒懒买kitty猫,逛游乐园,看海,网友:越来越有夫妻相

郑丁嘉话
2025-06-21 10:26:17
37岁陕西健美选手赵寒去世!血管暴起,妻子曝原因,疑类固醇影响

37岁陕西健美选手赵寒去世!血管暴起,妻子曝原因,疑类固醇影响

裕丰娱间说
2025-06-19 11:37:05
梅婷北京豪宅内景曝光,十个人住一栋别墅,屋里有些杂乱!

梅婷北京豪宅内景曝光,十个人住一栋别墅,屋里有些杂乱!

柠檬有娱乐
2025-06-20 10:27:54
绝了!40岁漂亮女硕士被骗财骗色,长达5年,对方竟然是大专生!

绝了!40岁漂亮女硕士被骗财骗色,长达5年,对方竟然是大专生!

深析古今
2025-06-20 12:31:47
究竟什么才算是高超音速导弹?一张经典图片,说得明明白白

究竟什么才算是高超音速导弹?一张经典图片,说得明明白白

科罗廖夫
2025-06-21 12:06:07
许家印最大靠山,死刑!

许家印最大靠山,死刑!

三农老历
2025-06-19 08:57:49
刘俊,搞权色交易,公器私用!

刘俊,搞权色交易,公器私用!

新京报
2025-06-20 23:12:15
以军变本加厉,伊朗新司令,仅上台96小时就殉国

以军变本加厉,伊朗新司令,仅上台96小时就殉国

科技有趣事
2025-06-18 11:56:28
暑假去姥姥家还是奶奶家?孩子的选择很“一致”,和谁带大的无关

暑假去姥姥家还是奶奶家?孩子的选择很“一致”,和谁带大的无关

禾禾妈爱学习
2025-06-20 13:51:43
63岁吴镇宇新造型太棒了,没有老人味还越来越年轻,至少年轻20岁

63岁吴镇宇新造型太棒了,没有老人味还越来越年轻,至少年轻20岁

TVB的四小花
2025-06-16 02:57:47
反PUA情感影游《捞女游戏》好评如潮!29元超值!

反PUA情感影游《捞女游戏》好评如潮!29元超值!

游民星空
2025-06-20 10:32:54
申花前锋位置迎来新外援,葡萄牙媒体称非洲国脚将加盟,引发热议

申花前锋位置迎来新外援,葡萄牙媒体称非洲国脚将加盟,引发热议

kio鱼
2025-06-21 11:46:18
特殊待遇!今日4场足协杯1/8决赛,仅英博vs国安一场配备VAR

特殊待遇!今日4场足协杯1/8决赛,仅英博vs国安一场配备VAR

直播吧
2025-06-21 10:34:22
萨巴伦卡:不知道怎么赢的,可能是因为我运气好

萨巴伦卡:不知道怎么赢的,可能是因为我运气好

懂球帝
2025-06-21 01:27:08
写出“周扒皮”的高玉宝,被周家后人戳着脊梁骨骂,到底谁对谁错

写出“周扒皮”的高玉宝,被周家后人戳着脊梁骨骂,到底谁对谁错

混沌录
2025-05-28 17:45:19
13年NBA生涯!39岁老将贝里内利意甲夺冠后退役 曾助马刺14夺冠

13年NBA生涯!39岁老将贝里内利意甲夺冠后退役 曾助马刺14夺冠

直播吧
2025-06-21 09:40:12
加拿大媒体:中国成为炸薯条“超级大国”

加拿大媒体:中国成为炸薯条“超级大国”

环球网资讯
2025-06-21 06:59:50
再创新高!2025浙江高考数学平均分出炉,详情分析

再创新高!2025浙江高考数学平均分出炉,详情分析

史海流年号
2025-06-20 20:56:37
中交地产1元甩掉近40亿负资产,退出房地产

中交地产1元甩掉近40亿负资产,退出房地产

36氪
2025-06-20 10:57:13
2025-06-21 14:56:49
AI科技评论 incentive-icons
AI科技评论
点评学术,服务AI
6865文章数 20670关注度
往期回顾 全部

科技要闻

Siri有救了?苹果被曝正讨论史上最大收购

头条要闻

"电报"创始人捐精生下超100个子女:都有资格继承财产

体育要闻

周通:2年前想过退役,没想到能踢世俱杯

娱乐要闻

70岁寇振海跳舞,网友:和依萍抢饭碗

财经要闻

租金大撤退!房东正在批量跑路!

汽车要闻

扔掉"旧地图”一汽-大众大众品牌要找"新大陆"

态度原创

时尚
家居
数码
教育
公开课

30度高温天穿啥?叶童高圆圆的答案可以抄作业

家居要闻

山水之间 墨染风雨云间

数码要闻

Astell&Kern 推出 SP4000 旗舰 Hi-Fi 播放器,28888 元

教育要闻

残障毕业生就业难?今晚19点35分,山东教育卫视《教育纵深》为您解码“无碍”就业的“特教”方案

公开课

李玫瑾:为什么性格比能力更重要?