当前位置: 江南文明网 > 科技 > 智能 >

GPT-4不知道自己错了!

条评论

GPT-4不知道自己错了!

【新智元导读】GPT-4根本不知道自己犯错?最新研究发现,LLM在推理任务中,自我纠正后根本无法挽救性能变差,引AI大佬LeCun马库斯围观。

大模型又被爆出重大缺陷,引得LeCun和马库斯两位大佬同时转发关注!

在推理实验中,声称可以提高准确性的模型自我纠正,把正确率从16%「提高」到了1%!

简单来说,就是LLM在推理任务中,无法通过自我纠正的形式来改进输出,除非LLM在自我纠正的过程中已经知道了正确答案。