neng8科技快讯网AI人工智能前沿资讯_汽车数码相机评测_手机电脑硬件百科

DeepSeek让英伟达H20都被疯抢，但AI推理爆发不只靠囤卡

什么？H20都变抢手货，涨价10万那种？！

最近有市场消息称，原本不受青睐的英伟达H20咨询量暴涨几十倍，8卡H20机器的价格也较年前涨价十万（单价110万左右），有从业者预测“价格不会下来了”。

要知道，H20是中国特供版，显存带宽等方面明显受限，性能及性价比都远不如H100。

RAG微调Llama 3竟超越GPT-4！英伟达GaTech华人学者提出RankRAG框架

在需要大量事实知识的文本生成任务中，RAG成为了常用的LLM部署技巧。

但佐治亚理工学院和英伟达最近发表的一篇论文提出——RAG可以不止停留在用于推理的pipeline中，类似的思路完全可以移植到微调阶段，于是有了这个名为RankRAG的框架。