元语音研究网

METASPEECH

[浏览需要 0 积分] 发布于2022-05-14 11:37:49

端到端语音识别-01-田正坤
论文优势：（1）CTC 模型介绍（2）基础 Attention 模型（3）Encoder 模型探讨（4）软、硬 Attention 机制（5）多任务学习结构（6）Transformer 结构（7）训练技巧与个人思考论文下载链接：

赞 3

评论 11

浏览 1761

开源分享
METASPEECH

[浏览需要 0 积分] 发布于5天前

《SVD的导数》
https://kexue.fm/archives/10878 SVD 大家应该都听说过吗？但大家有没有想到过，SVD 其实是可导的？

赞 2

评论

浏览 12

文本
METASPEECH

[浏览需要 0 积分] 发布于13天前

《Transformer升级之路：19、第二类旋转位置编码》
https://kexue.fm/archives/10862 本文围绕着“RoPE 可以加在 V 上吗”进行展开，讨论了 RoPE 的第二种用法。

赞 2

评论

浏览 30

文本
METASPEECH

[浏览需要 0 积分] 发布于13天前

《矩阵的有效秩（Effective Rank）》
https://kexue.fm/archives/10847 本文探讨了矩阵的有效秩（Effective Rank）概念，它是线性代数中矩阵的秩（Rank）概念在数值计算方面的延伸，能够更有效地度量矩阵的本质维度。

赞 2

评论

浏览 32

文本
METASPEECH

[浏览需要 0 积分] 发布于2022-03-06 21:41:54

清华大学 - 语音识别基本法
下载链接

赞 6

评论 37

浏览 2435

开源分享
AI柠檬

[浏览需要 0 积分] 发布于2025-03-28 23:33:26

【前沿观察】最新研究：DeepSeek-R1 的性能、安全性和可解释性
随着 DeepSeek-R1 的推出，其在多个领域的卓越表现引起了广泛关注。然而，除了性能，安全性、计算效率和可解释性也成为研究者们关注的重点。以下是对几篇近期发表的 arXiv 论文中关于 DeepSeek-R1 的研究综述。 1. 温度设置与架构对生成...

赞 2

评论

浏览 101

前沿动态
METASPEECH

[浏览需要 0 积分] 发布于2025-03-28 21:43:09

《MoE环游记：4、难处应该多投入》
https://kexue.fm/archives/10815 本文提出了一种动态选择 Expert 数目的 MoE 设计，主要思想是对 Loss-Free 的 MoE 形式稍作修改，然后修改 Bias 项的更新规则，利用它的额外自由度来同时实现负载均衡和...

赞 2

评论

浏览 77

文本
METASPEECH

[浏览需要 0 积分] 发布于2025-03-24 11:31:24

《高阶muP：更简明但更高明的谱条件缩放》
https://kexue.fm/archives/10795 这篇文章介绍了 muP 的升级版——谱条件，它从谱范数相关的不等式切入来分析模型稳定训练的条件，以一种更便捷的方式得到了比 muP 更丰富的结果。

赞 2

评论

浏览 79

文本
METASPEECH

[浏览需要 0 积分] 发布于2025-03-20 14:03:55

开源儿童数据，南开大学
大家好，我们开源了一个 3-5 岁的儿童语音数据集，包括 397 名儿童的 41.25h 的语音，说话人覆盖了 22 个省市，目前已经在 huggingface 上开放下载了，论文链接：https://arxiv.org/abs/2409.18584

赞 2

评论

浏览 130

语音
METASPEECH

[浏览需要 0 积分] 发布于2025-03-13 18:12:04

《初探muP：超参数的跨模型尺度迁移规律》
https://kexue.fm/archives/10770 本文以尽可能简明清晰的方式介绍了 muP（Maximal Update Parametrization），这是旨在研究超参数跨模型尺度的迁移规律的工作。基于 muP，我们可以在小模型上以相对较...

赞 2

评论

浏览 101

文本
Speech

[浏览需要 0 积分] 发布于2025-03-07 17:36:31

【CP-力作鼎推】OWLS: Scaling Laws for Multilingual Speech Recognition and Translation Models
论文链接 Neural scaling laws offer valuable insights for designing robust sequence processing architectures. While these laws have b...

赞 2

评论 1

浏览 189

语音
Speech

[浏览需要 0 积分] 发布于2025-03-06 14:10:10

【CP】Unveiling the Potential of LLM-Based ASR on Chinese Open-Source Datasets
论文链接代码链接

赞 2

评论 1

浏览 189

语音
Speech

[浏览需要 0 积分] 发布于2025-03-05 16:10:22

【CP】Audio-CoT: Exploring Chain-of-Thought Reasoning in Large Audio Language Model
论文链接

赞 2

评论

浏览 191

语音
METASPEECH

[浏览需要 0 积分] 发布于2025-03-05 11:34:22

《MoE环游记：3、换个思路来分配》
https://kexue.fm/archives/10757 本文介绍了 MoE 负载均衡问题的 Loss-Free 方法，它由 DeepSeek 提出，其核心在于通过引入一个简单的偏置项来实现负载均衡。本文进一步思考了它与 Aux Loss 的联系，以...

赞 2

评论

浏览 158

文本
Speech

[浏览需要 0 积分] 发布于2025-03-04 14:34:20

【优秀博士生】Jinchuan Tian—CMU
学术链接 Git 链接

赞 2

评论

浏览 172

语音
METASPEECH

[浏览需要 0 积分] 发布于2025-02-27 15:45:00

《Muon续集：为什么我们选择尝试Muon？》
https://kexue.fm/archives/10739 本文介绍了我们在 Muon 优化器上的一次较大规模实践（Moonlight），并分享了我们对 Muon 优化器的最新思考。

赞 2

评论

浏览 211

文本
Speech

[浏览需要 0 积分] 发布于2025-02-27 10:19:11

【JP】High fidelity zero shot speaker adaptation in text to speech synthesis with denoising diffusion GAN
论文链接

赞 2

评论

浏览 305

语音
Speech

[浏览需要 0 积分] 发布于2025-02-21 17:50:45

【资源】AudioLLM / SpeechLLM方向论文、代码、数据汇总GIT
论文链接

赞 2

评论

浏览 347

语音
Speech

[浏览需要 0 积分] 发布于2025-02-21 17:11:48

【JP】A speech recognition method with enhanced transformer decoder
论文链接

赞 2

评论

浏览 279

语音
Speech

[浏览需要 0 积分] 发布于2025-02-21 13:27:08

【TR】OSUM: Advancing Open Speech Understanding Models with Limited Resources in Academia
论文链接代码链接 Large Language Models (LLMs) have made significant progress in various downstream tasks, inspiring the development of ...

赞 3

评论

浏览 347

语音

METASPEECH
262 帖子 • 51 评论

1576
Speech
166 帖子 • 24 评论

1289
AI柠檬
14 帖子 • 16 评论

505
江南一点红
1 帖子 • 1 评论

46
懵
懵懵懂懂的新手
1 帖子 • 17 评论

39
M
Mephisto
0 帖子 • 4 评论

28
後藤ひとり
0 帖子 • 0 评论

23
心行
2 帖子 • 0 评论

20
出东巷
0 帖子 • 0 评论

15
betciso
0 帖子 • 1 评论

12