METASPEECH
[浏览需要 0 积分] 发布于

《MoE环游记:2、不患寡而患不均》

https://kexue.fm/archives/10735

本文介绍了 MoE 的负载均衡问题,并给出了一种构建 Aux Loss 的一般思路。

浏览 (251)
点赞 (2)
收藏
评论