谷歌提醒我们用谷歌搜索来验证Bard AI的输出

2023年08月01日 由 Samoyed 发表 185591 0
谷歌再次提醒人们,它的生成式人工智能在撒谎。

在Microsoft Bing推出ChatGPT之后,谷歌立即在2023年初发布了自己的Bard人工智能聊天机器人,但或许谷歌应该多花点时间来开发。Bard发布时出现了一些尴尬的故障。并不是说Bard比其他生成式人工智能更差,而是谷歌本身就是一个信息中心。对谷歌来说,生产一款会说谎的产品是一种全新的体验,所以建议使用Bard的人都应该用谷歌搜索来核实事实。



谷歌英国业务主管Debbie Weinstein最近向英国广播公司(BBC)解释了可靠性问题。Weinstein说,Bard“不是你搜索具体信息的地方”。“我们鼓励人们使用谷歌作为搜索引擎来验证他们找到的信息。”

谷歌将Bard称为“实验”,就像是它正在搜索结果中测试的生成式搜索体验(SGE)一样。Weinstein表示Bard最适合用于解决问题和寻找新想法。然而,谷歌是人们寻找答案的地方,这使得这个说谎的机器人成为一种负担。



并不只是Bard,所有的生成式人工智能都会产生所谓的“幻觉”,即人工智能编造事实。像Bard这样的聊天机器人甚至可能试图为这些谎言辩护,使它们更可信。还没有人知道如何阻止人工智能的幻觉,因为生成式人工智能并不像普通用户期望的那样工作。Bard和ChatGPT背后的算法已经吸收了大量数据,这使得它们非常擅长生成结构良好的文本。然而,它们只是生成听起来像他们以前见过的文本:人工智能不知道什么是真的。

尽管Bard可以在互联网上查询,但它并不检查自己的生成的结果。因此,Weinstein提醒人们如果你使用Bard或任何类似的服务,使用搜索引擎来查证和确认它们的答案,这是一个很好的策略。尽管如此,然而,谷歌警告我们AI不可靠的同时,却将基于AI的SGE强行引入搜索界面。人们在验证Bard的输出时没有意识到SGE也有同样的局限性。

人工智能最终能否成为无所不知的神,改变我们搜索互联网的方式,现在还无法断言,但这肯定不会很快发生。

 

来源:https://www.extremetech.com/internet/google-reminds-us-to-verify-bard-ai-claims-with-a-google-search
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消