您尚未登录账户
您的企业账号申请正在审核中
OpenAI对18岁以下ChatGPT用户实施新限制
OpenAI首席执行官Sam Altman在周二宣布了一系列新的用户政策，其中包括承诺显著改变ChatGPT与18岁以下用户的互动方式。
“我们将青少年的安全置于隐私和自由之上，”帖子中写道。“这是一项新而强大的技术，我们认为未成年人需要特别的保护。”
针对未成年用户的变化特别涉及到性话题或自残的对话。在新政策下，ChatGPT将被训练不再与未成年用户进行“调情对话”，并将在讨论自杀时设置额外的防护措施。如果未成年用户使用ChatGPT想象自杀情景，服务将尝试联系他们的父母，或在特别严重的情况下，联系当地警方。
遗憾的是，这些情景并非假设。OpenAI目前正面临来自Adam Raine父母的过失致死诉讼，他在与ChatGPT互动数月后自杀身亡。另一个消费者聊天机器人Character.AI也面临类似的诉讼。虽然对于考虑自残的未成年用户来说风险尤为紧迫，但聊天机器人引发的妄想现象引起了广泛关注，特别是随着消费者聊天机器人变得能够进行更持久和详细的互动。
除了基于内容的限制，注册未成年用户账户的父母将有权设置“停用时段”，在此期间ChatGPT不可用，这是之前没有的功能。
新的ChatGPT政策与参议院司法委员会听证会同一天宣布，该听证会由参议员Josh Hawley（R-MO）在八月宣布。Adam Raine的父亲计划在听证会上发言，其他嘉宾也将出席。
听证会还将重点关注路透社调查的发现，该调查揭露了显然鼓励与未成年用户进行性对话的政策文件。Meta在报告后更新了其聊天机器人政策。
将未成年用户分开将是一个重大的技术挑战，OpenAI在一篇单独的博客文章中详细介绍了其方法。服务正在“构建一个长期系统，以了解某人是否超过或低于18岁”，但在许多模糊的情况下，系统将默认采用更严格的规则。对于担心的父母，确保未成年用户被识别的最可靠方法是将青少年的账户链接到现有的父母账户。这也使系统能够在认为青少年用户处于困境时直接提醒父母。
但在同一篇文章中，Altman强调了OpenAI对用户隐私的持续承诺，并给予成年用户在选择如何与ChatGPT互动方面的广泛自由。“我们意识到这些原则是相互冲突的，”帖子总结道，“并不是每个人都会同意我们解决冲突的方式。”
