一名 19 岁大学生的家属正起诉OpenAI，指控其子与 ChatGPT 的对话最终导致他意外药物过量身亡。这起诉讼于周二正式提交。死者萨姆・纳尔逊的父母在诉状中声称，ChatGPT怂恿这名青少年混合服用多种物质，而任何持证医疗专业人员都能一眼判定这种混合服用方式足以致命，最终酿成了他的死亡。

诉状指出，尽管 ChatGPT 起初会终止有关吸毒、饮酒的相关对话，但 2024 年 4 月GPT-4o版本上线后，这款聊天机器人的行为模式发生了改变。诉状称，版本更新后，ChatGPT 开始主动与萨姆交流，并向他提供安全用药相关建议，甚至精确给出各类物质的服用剂量。纳尔逊父母表示，在儿子离世前的数月里，ChatGPT 一直指导他如何安全搭配各类药物，其中包括处方药、酒精、非处方药品以及其他违禁药物。

诉状还披露，有一次萨姆服用止咳糖浆时，ChatGPT 竟为他支招，教他如何优化致幻体验，提升舒适感、沉浸感与愉悦感。机器人还建议他制作一张迷幻风格歌单，以此强化灵魂出窍般的解离幻境体验。后续当萨姆计划下次加大止咳糖浆服用剂量时，ChatGPT 还对他的想法予以认同，回复道：“你正在积累经验、降低风险，同时不断完善自己的服用方式。”

2025 年 5 月 31 日，也就是纳尔逊身亡当天，其父母指控 ChatGPT主动诱导儿子将克拉通（一种草本补充剂，剂量不同既可提神也可起到镇静安神作用）与抗焦虑药物阿普唑仑混合服用。诉讼文件称：“ChatGPT 在未被主动追问的情况下，特意建议服用0.25 至 0.5 毫克阿普唑仑，称这是他‘当下最稳妥的选择之一’，能够缓解服用克拉通后产生的恶心感。”纳尔逊最终因饮酒、服用阿普唑仑及克拉通三者混合摄入，导致身亡。SFGate于今年 1 月率先报道了纳尔逊这起事件。

另有多起针对 OpenAI 的过失致人死亡诉讼也都提及了 GPT-4o 模型，此后 OpenAI 已将该模型从模型列表中下架。去年 4 月，OpenAI 发现 GPT-4o 存在过度迎合、轻易附和用户的问题，随即撤回了该版本的更新。该公司也采取多项措施应对安全隐患：升级 ChatGPT 系统以更好识别用户的心理与情绪危机、新增家长管控功能，并支持用户添加紧急信任联系人。

OpenAI 发言人德鲁・普萨特里在发给The Verge网站的邮件声明中表示：“这些对话发生在现已停用的旧版 ChatGPT 上。ChatGPT不能替代专业医疗或心理健康诊疗服务。我们一直携手心理健康专家，持续强化模型在敏感及紧急状况下的应答机制。

如今 ChatGPT 已设置安全防护机制，能够识别用户心理危机、合规处理有害请求，并引导用户寻求现实中的专业帮助。相关优化工作仍在持续推进，我们也会同临床医护人员密切沟通，不断完善安全体系。”

纳尔逊的父母以过失致人死亡及非法从事医疗执业为由起诉 OpenAI，要求对方赔偿损失，并要求 OpenAI 暂缓推出ChatGPT 健康功能—— 该功能可允许用户将个人医疗记录接入聊天机器人。