neng8科技快讯网AI人工智能前沿资讯_汽车数码相机评测_手机电脑硬件百科

算力终结者来了！华人天团「降维打击」注意力瓶颈，AI狂飙进对数时代

LLM苦算力太久了！

为缓解长序列建模中的算力瓶颈，研究界持续探索高效替代方案。

这次Mamba作者Tri Dao、华人AI领域大牛Eric P. Xing等联手MIT、普林斯顿、CMU等机构的研究人员，提出了全新的注意力机制：

对数线性注意力（Log-Linear Attention）。