neng8科技快讯网AI人工智能前沿资讯_汽车数码相机评测_手机电脑硬件百科

微软让MoE长出多个头，大幅提升专家激活率

混合专家（MoE）是个好方法，支持着现在一些非常优秀的大模型，比如谷歌家的 Gemini 1.5 以及备受关注的 Mixtral 8x7B。

稀疏混合专家（SMoE）可在不显著增加训练和推理成本的前提下提升模型的能力。比如 Mixtral 8×7B 就是一个 SMoE 模型，其包含 8 个专家（共 7B 参数），而其表现却可以超过或比肩 LLaMA-2 70B 和 GPT-3.5。

微软们掉进大模型安全漩涡

大模型的安全问题正在悄悄逼近。

就在全球都在因大模型而狂欢时，大模型的安全问题也随之来临。

不过，科技发展向来是一个不可逆的过程。