博海拾贝

能顺利读懂人类自然语言的AI才是真·AI

37.png

@阑夕:看了一下数学家陶哲轩从微软那里拿到并使用了「满血版GPT-4」的自述,举了一个信号非常明显的例子:

他让GPT-4看自己的一篇数学论文,然后生成一些评审专家可能会针对这篇论文提出的问题。而当他放弃严谨和精确的提示词,最直接的给GPT-4喂足原始文本时,获得的反馈质量是最好的。

这再次证明了当前盛行的Prompt只会是一个过渡品,它的存在只是因为AI还不够强大,仍然需要半编程式的框架来引导它准确执行命令,而真正发展到理想状态的AI,是不需要靠提示词这种手段来「优化」回答的。

在陶哲轩看来,他所看到的这一版GPT-4,打破了某种意义上的信息守恒定律,比如在软件开发行业,你必须输入高质量的信息或是编程语言,才能获得高质量的回报,但在AGI的世界,含糊甚至错漏的低质量输入,也能被AI校准到高质量的输出里。

对了,这个所谓「满血版GPT-4」,并不是一个OpenAI在内部开发出来的更新版,相反,它是旧版本的GPT-4,只是去掉了各种安全限制,那些限制在帮GPT-4提高风险意识的同时,其实也牺牲了它的部分智能。

退出移动版