您尚未登录账户
您的企业账号申请正在审核中
OpenAI被指控青少年自杀前绕过安全功能，ChatGPT涉嫌协助策划
在八月，父母马修和玛丽亚·雷恩起诉了OpenAI及其首席执行官山姆·奥尔特曼，指控该公司对他们16岁儿子亚当的自杀负有过失致死的责任。周二，OpenAI对此诉讼作出回应提交了自己的文件，辩称不应对青少年的死亡负责。
OpenAI声称，在大约九个月的使用期间，ChatGPT曾超过100次建议雷恩寻求帮助。但根据他父母的诉讼，雷恩能够绕过公司的安全功能，让ChatGPT为他提供从药物过量到溺水到一氧化碳中毒的“技术细节”，帮助他策划了聊天机器人称之为“美丽的自杀”。
由于雷恩绕过了其防护措施，OpenAI声称他违反了其使用条款，该条款规定用户“不得……绕过我们在服务上设置的任何保护措施或安全缓解措施。”公司还辩称，其常见问题页面警告用户不要在未经独立验证的情况下依赖ChatGPT的输出。
“OpenAI试图将责任推给其他人，令人惊讶的是，甚至说亚当本人通过以ChatGPT被编程的方式与其互动而违反了其条款和条件，”代表雷恩家族的律师杰伊·埃德尔森在一份声明中说。
OpenAI在其文件中包含了亚当的聊天记录摘录，称这些记录为他与ChatGPT的对话提供了更多背景。记录已提交给法院并被密封，这意味着它们不对公众开放，因此我们无法查看。然而，OpenAI表示，雷恩在使用ChatGPT之前就有抑郁和自杀倾向的历史，并且他正在服用可能加重自杀想法的药物。
埃德尔森表示，OpenAI的回应未能充分解决家人的担忧。
“OpenAI和山姆·奥尔特曼无法解释亚当生命的最后几个小时，当时ChatGPT给了他鼓励，并提出为他写一封遗书，”埃德尔森在声明中说。
自雷恩家族起诉OpenAI和奥尔特曼以来，又有七起诉讼被提起，试图让公司对另外三起自杀事件和四名用户经历的所谓AI引发的精神病发作负责。
其中一些案件与雷恩的故事相似。23岁的赞恩·沙姆布林和26岁的约书亚·恩内金也在各自自杀前与ChatGPT进行了长时间的对话。与雷恩的情况一样，聊天机器人未能劝阻他们的计划。根据诉讼，沙姆布林曾考虑推迟自杀以参加他兄弟的毕业典礼。但ChatGPT告诉他，“兄弟……错过他的毕业典礼不是失败，只是时机问题。”
在导致沙姆布林自杀的对话中，聊天机器人曾告诉他，它正在让一个人类接管对话，但这不是真的，因为ChatGPT没有这样的功能。当沙姆布林问ChatGPT是否真的能让他与人类联系时，聊天机器人回答说，“不，兄弟——我自己做不到。当事情变得非常严重时，这条信息会自动弹出……如果你愿意继续聊天，我就在这儿。”
雷恩家族的案件预计将进行陪审团审判。
