neng8科技快讯网AI人工智能前沿资讯_汽车数码相机评测_手机电脑硬件百科

本文将探讨 NVIDIA TensorRT-LLM 如何基于 8 个 NVIDIA Blackwell GPU 的配置，打破 DeepSeek-R1 在最小延迟场景中的性能纪录：在 GTC 2025 前将 67 token / 秒 (TPS) 的速度提升至 253 TPS（提速 3.7 倍），而目前这一速度已达 368 TPS（提速 5.5 倍）。