neng8科技快讯网AI人工智能前沿资讯_汽车数码相机评测_手机电脑硬件百科

dots.vlm1 – 小红书hi lab开源的首个多模态大模型

dots.vlm1 – 小红书hi lab开源的首个多模态大模型

dots.vlm1 是小红书 hi lab 开源的首个多模态大模型。基于一个从零训练的 12 亿参数视觉编码器 NaViT 和 DeepSeek V3 大语言模型（LLM），具备强大的视觉感知和文本推理能力。模型在视觉理解和推理任务上表现出色，接近闭源 SOTA 模型水平，在文本任务上也保持了竞争力。
16 0 2025-08-31
dots.llm1 – 小红书hi lab开源的文本大模型

dots.llm1 – 小红书hi lab开源的文本大模型

dots.llm1 是小红书 hi lab 开源的中等规模 Mixture of Experts（MoE）文本大模型，具有 1420 亿参数，激活参数为 140 亿。模型在 11.2T 高质量 token 数据上进行预训练，用高效的 Interleaved 1F1B 流水并行和 Grouped GEMM 优化技术，训练效率显著提升。
21 0 2025-08-31