
谷歌重磅推出全新Scaling Law,抢救Transformer!3万亿美元AI面临岔路
谷歌重磅推出全新Scaling Law,抢救Transformer!3万亿美元AI面临岔路
测试时计算之后,谷歌三大团队集众人之力,发现了全新的Scaling Law!
刚刚,谷歌研究员Zachary Charles宣布:「在越来越大的模型上,分布式训练取得重大突破」。
这个核心算法,便是——DiLoCo的Scaling Law。
新的训练方法无惧模型规模,未来,在「多个数据中心」训练大模型的规模不再是问题。
12
0
2025-09-06