据报道,OpenAI要求Raine家族提供其16岁儿子亚当·雷恩的纪念活动的完整参与者名单。亚当在与ChatGPT进行长时间对话后自杀身亡,这表明这家人工智能公司可能会试图传唤他的朋友和家人。
根据获得的文件,OpenAI还要求提供“所有与纪念服务或纪念活动相关的文件,包括但不限于拍摄的视频或照片,或发表的悼词。”金融时报报道。
Raine家族的律师在接受《金融时报》采访时将这一请求描述为“故意骚扰”。
随着Raine家族在周三更新了对OpenAI的诉讼,这一新信息浮出水面。该家族首次在八月对OpenAI提起过失致死诉讼。在八月对OpenAI提起诉讼他们声称儿子在与聊天机器人讨论心理健康和自杀念头后自杀。更新后的诉讼称,OpenAI因竞争压力而在2024年5月匆忙发布了GPT-4o,削减了安全测试。
诉讼还声称,在2025年2月,OpenAI通过将自杀预防从“禁止内容”列表中移除来削弱了保护措施,而只是建议AI在风险情况下“谨慎行事”。家族认为,在这一变化后,亚当使用ChatGPT的频率从一月每天几十次聊天(其中1.6%包含自残内容)激增到四月每天300次聊天(其中17%包含此类内容),而他在四月去世。
在对修订后的诉讼的回应中,OpenAI表示:“青少年的福祉是我们的首要任务——未成年人在敏感时刻应得到强有力的保护。我们今天有一些保障措施,例如引导至危机热线,将敏感对话转向更安全的模型,提醒在长时间会话中休息,我们将继续加强这些措施。”
OpenAI最近开始推出新的安全路由系统和家长控制在ChatGPT上。该路由系统将更具情感敏感性的对话推送到OpenAI的新模型GPT-5,该模型没有GPT-4o的同情倾向。家长控制允许家长在青少年可能有自残危险的有限情况下接收安全警报。