《VQ的旋转技巧：梯度直通估计的一般推广》

https://kexue.fm/archives/10489

旋转技巧是近日 arXiv 上面提出的训练 VQ（Vector Quantization）模型的新技术，它推广了原本的直通估计器（STE），声称能改善编码表的坍缩或利用率低等问题，本文对此进行了简单介绍，并给出了笔者对它的一些思考和疑问。