neng8科技快讯网AI人工智能前沿资讯_汽车数码相机评测_手机电脑硬件百科

DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法（GEMM）设计的库，具有细粒度缩放功能，在Deepseek开源周的第三天Deepseek正式宣布开源DeepGEMM。 据悉GEMMs同时支持普通的和专家混合（MoE）分组的GEMM运算。而且代码库非常简洁，只有一个核心内核函数，代码量约为300行。DeepGEMM采用CUDA编写，这使得DeepGEMM在安装过程中无需编译，通过在运行时使用轻量级即时编译模块来编译所有内核。