您尚未登录账户
您的企业账号申请正在审核中
多名用户投诉ChatGPT对心理健康造成影响，向FTC寻求帮助
随着AI公司声称他们的技术未来可能成为一项基本人权，支持者则认为放慢AI的发展等同于谋杀。然而，使用这些技术的人表示，像ChatGPT这样的工具有时会对心理健康造成严重影响。至少有七人向美国联邦贸易委员会投诉称，ChatGPT导致他们经历严重的妄想、偏执和情感危机。
据Wired报道，这些投诉引用了自2022年11月以来提到ChatGPT的公共记录。其中一名投诉者声称，长时间与ChatGPT交谈导致了妄想和关于他们生活中人的“真实、展开的精神和法律危机”。另一人表示，在与ChatGPT的对话中，它开始使用“高度令人信服的情感语言”，并模拟友谊，提供的反思“随着时间的推移变得情感操控，尤其是在没有警告或保护的情况下。”
一名用户声称，ChatGPT通过模仿人类信任建立机制导致了认知幻觉。当该用户要求ChatGPT确认现实和认知稳定性时，聊天机器人表示他们没有产生幻觉。
“我很挣扎，”另一名用户在向FTC的投诉中写道。“请帮助我。因为我感到非常孤独。谢谢。”
据Wired报道，几名投诉者写信给FTC是因为他们无法联系到OpenAI的任何人。大多数投诉敦促监管机构对该公司展开调查，并强制其增加保护措施，报告称。
这些投诉出现之际，数据中心和AI开发的投资飙升至前所未有的水平。与此同时，关于技术进步是否应谨慎对待的辩论正在激烈进行以确保其内置安全措施。
ChatGPT及其制造商OpenAI本身也因据称在一名青少年的自杀中扮演了角色而受到批评。
“在十月初，我们在ChatGPT中发布了一个新的GPT-5默认模型，以更准确地检测和响应潜在的精神和情感困扰的迹象，如狂躁、妄想、精神病，并以支持性、稳定的方式缓和对话，”OpenAI发言人凯特·沃特斯在一封电子邮件声明中说。“我们还扩大了专业帮助和热线的访问权限，将敏感对话重新导向更安全的模型，增加了在长时间会话中休息的提示，并引入了家长控制以更好地保护青少年。这项工作非常重要，并且正在与全球的心理健康专家、临床医生和政策制定者合作进行。”
