您尚未登录账户
您的企业账号申请正在审核中
ChatGPT关于人的幻觉让OpenAI陷入麻烦
一个名为noyb的隐私权非营利组织代表个人于周一向奥地利数据保护局（DPA）对OpenAI提出了投诉，原因是ChatGPT无法纠正其生成的关于人的信息。
尽管幻觉像ChatGPT这样的大型语言模型编造虚假或荒谬信息的倾向很常见，但noyb的投诉重点在于欧盟的《通用数据保护条例》（GDPR）。GDPR规定了欧盟内部人员个人数据的收集和存储方式。
尽管GDPR要求，“OpenAI公开承认它无法纠正ChatGPT上的错误信息，”但noyb在一份声明中表示，该公司还“无法说明数据的来源，也无法说明ChatGPT存储了哪些关于个人的数据”，而且它“很清楚这个问题，但似乎并不关心”。
根据GDPR，欧盟内部的个人有权要求纠正关于他们的错误信息，因此由于OpenAI无法纠正数据，noyb在其投诉中表示OpenAI违反了该规定。
noyb表示，幻觉“当涉及到生成关于人的信息时，这是不可接受的”。noyb针对OpenAI的投诉人是一位公众人物，他向ChatGPT询问自己的生日，但据noyb称，他“被反复提供了错误的信息”。随后，OpenAI据称“拒绝了他的纠正或删除数据的请求，理由是数据无法纠正”。相反，OpenAI据称告诉投诉人，它可以对某些提示（如投诉人的名字）上的数据进行过滤或屏蔽。
该组织要求奥地利数据保护局（DPA）调查OpenAI如何处理数据，以及该公司如何确保其大型语言模型训练中的个人数据准确无误。noyb还要求DPA命令OpenAI遵守投诉人访问数据的请求——这是GDPR下的一项权利，要求公司向个人展示他们拥有的数据以及数据的来源。
OpenAI没有立即回应置评请求。
noyb的数据保护律师Maartje de Graaf在一份声明中说：“遵守访问请求的义务适用于所有公司。显然，有可能保留用于训练的数据的记录，或者至少了解信息来源。似乎每次‘创新’，都有一组公司认为其产品不需要遵守法律。”
不遵守GDPR规则可能导致高达2000万欧元或全球年营业额的4%的罚款——以较高者为准，如果个人选择寻求赔偿，则可能面临更多损失。OpenAI已经在欧盟成员国意大利和波兰面临类似的数据保护案件。
