neng8科技快讯网AI人工智能前沿资讯_汽车数码相机评测_手机电脑硬件百科

几行代码稳定UNet ! 中山大学等提出ScaleLong扩散模型：从质疑Scaling到成为Scaling

本文提出了扩散模型中UNet的long skip connection的scaling操作可以有助于模型稳定训练的分析，目前已被NeurIPS 2023录用。同时，该分析还可以解释扩散模型中常用但未知原理的1/√2 scaling操作能加速训练的现象。

在标准的UNet结构中，long skip connection上的scaling系数