neng8科技快讯网AI人工智能前沿资讯_汽车数码相机评测_手机电脑硬件百科

GPT-4可能也在用的推测解码是什么?一文综述前世今生和应用情况

GPT-4可能也在用的推测解码是什么?一文综述前世今生和应用情况

GPT-4可能也在用的推测解码是什么?一文综述前世今生和应用情况

推测解码(Speculative Decoding)是谷歌等机构在 2022 年发现的大模型推理加速方法。它可以在不损失生成效果前提下,获得 3 倍以上的加速比。GPT-4 泄密报告也提到 OpenAI 线上模型推理使用了它。针对如此妙的方法,香港理工大学、北京大学、MSRA 以及阿里共同推出了一篇关于推测解码的综述, 帮助读者了解推测解码的前世今生和应用情况,值得一读。

16 0 2025-09-04
GPT-4单项仅得7.1分,揭露大模型代码能力三大短板,最新基准测试来了

GPT-4单项仅得7.1分,揭露大模型代码能力三大短板,最新基准测试来了

GPT-4单项仅得7.1分,揭露大模型代码能力三大短板,最新基准测试来了

首个AI软件工程师Devin正式亮相,立即引爆了整个技术界。


Devin不仅能够轻松解决编码任务,更可以自主完成软件开发的整个周期——从项目规划到部署,涵盖但不限于构建网站、自主寻找并修复 BUG、训练以及微调AI模型等。


这种 “强到逆天” 的软件开发能力,让一众码农纷纷绝望,直呼:

16 0 2025-09-04
GPT、DeepSeek们可算把对话记录还给我了!

GPT、DeepSeek们可算把对话记录还给我了!

GPT、DeepSeek们可算把对话记录还给我了!

OpenAI 有个反常规的设定,


他们将我生成的图片整理成一个画廊,但是点开图片并没有跳回到当时对话的选项,只能在这张图的基础上修改。


这也是很多AI目前的交互通病,


我和他们的对话正在丢失。


GPT、DeepSeek们可算把对话记录还给我了!

18 0 2025-09-03
GPT-4搞不定的图推理,港科大7B模型搞定|KDD2024

GPT-4搞不定的图推理,港科大7B模型搞定|KDD2024

GPT-4搞不定的图推理,港科大7B模型搞定|KDD2024

大模型执行图推理任务,我们是希望大模型仅仅给出结果,还是在给出准确答案的同时,输出详细的推理过程?


先来看GPT-4的表现:


给出了一个非常简短且错误的答案

20 0 2025-09-02