
图灵奖得主理查德・萨顿提出观点:常规生成式人工智能欠缺科学探索所需的一项核心能力 —— 无法对自身生成的结论进行校验与迭代优化。
大语言模型、图像及视频生成模型依托海量样本数据完成学习,输出和训练样本特征相近的内容。在萨顿看来,这类模型产出优质内容大多得益于训练素材,也就是其学习过的文本、图像与各类数据;一旦生成脱离原有素材的全新内容,面对事实类提问时,这类内容就属于模型幻觉。
萨顿借用科研圈一则经典笑话佐证自己的看法:“这份成果兼具创新性与实用性。可惜实用之处毫无新意,创新之处又缺乏实用价值。” 他表示,当下多数生成式 AI 都存在这个问题:它既能复刻成熟有用的内容,也能随机生成新奇产物,却没有自主甄别优质新思路的能力。
萨顿并未否定生成式 AI 的实用价值,它可用于内容总结、科研辅助、智能助手、文娱创作等场景,而很多场景本身也不需要内容具备创新性:摘要不能编造事实,科研综述也不能凭空杜撰结论。萨顿称:“即便只是单纯做内容复刻,只要相比原有方案速度更快、成本更低、体量更精简、可定制性或复用性更强,生成式 AI 依旧具备极高的应用价值。”
