
根据新的法庭文件,Character.AI 和谷歌已与几个青少年在与 Character.AI 聊天机器人互动后自残或自杀的家庭达成和解。
这些定居点的具体细节仍不为人知。双方通知佛罗里达联邦法院,已达成“原则调解和解以解决所有索赔”,并请求暂停案件以最终敲定协议。Character.AI 的发言人凯瑟琳·凯利和代表受害者家属的社交媒体受害者法律中心律师马修·伯格曼拒绝置评。谷歌尚未立即回应置评请求。
和解案件包括梅根·加西亚提起的一起备受关注的诉讼,她在2024年10月的一份诉状中声称,Character.AI的《权力的游戏》主题聊天机器人鼓励她14岁的儿子休厄尔·塞策在对该机器人产生“依赖”后选择自杀。诉讼称谷歌应被视为 Character.AI 的“共同创造者”,因为它“为该工具贡献了资金、人员、知识产权和人工智能技术”,该工具由谷歌前员工创立,后来被谷歌重新聘用。
在那场诉讼之后,Character.AI 宣布对其聊天机器人进行调整以保护用户,包括将大型语言模型(LLM)分开用于18岁以下用户,以创造更严格的内容限制体验,并增加了家长控制。后来,它完全禁止未成年人参与开放式角色聊天。
根据法律文件,这些公司还在科罗拉多州、纽约州和德克萨斯州的案件中达成了协议。和解协议仍需最终确定并由法院批准。
