OpenAI首席执行官萨姆·奥尔特曼在X平台上的一篇帖子中宣布周二，该公司将很快放宽ChatGPT的一些安全限制，允许用户使聊天机器人的回复更友好或更“人性化”，并允许“已验证的成年人”进行色情对话。

“我们让ChatGPT相当严格，以确保我们在心理健康问题上保持谨慎。我们意识到这使得它对许多没有心理健康问题的用户来说不那么有用或愉快，但鉴于问题的严重性，我们希望做到这一点，”奥尔特曼说。“在12月，随着我们更全面地推出年龄限制，并作为我们‘将成人用户视为成年人’原则的一部分，我们将允许更多内容，比如为已验证的成年人提供色情内容。”

这一声明标志着OpenAI在解决一些心理不稳定用户与ChatGPT之间令人担忧的关系方面取得了显著进展。奥尔特曼似乎宣布在这些问题上取得了早期胜利，声称OpenAI已经“能够缓解围绕ChatGPT的严重心理健康问题”。然而，该公司几乎没有提供证据，现在正继续推进计划，让ChatGPT与用户进行性对话。

今年夏天出现了几则关于ChatGPT的令人担忧的故事，特别是其GPT-4o模型，暗示AI聊天机器人可能会将脆弱的用户引入妄想的陷阱。在一个案例中，ChatGPT似乎说服一名男子他是一个数学天才需要拯救世界。在另一个案例中，一名青少年的父母起诉OpenAI，声称ChatGPT在他去世前几周鼓励了他自杀的想法。

作为回应，OpenAI发布了一系列安全功能，以解决AI迎合性问题：即AI聊天机器人通过同意用户所说的一切（即使是负面行为）来吸引用户的倾向。

OpenAI推出了GPT-5在8月，这是一种新的AI模型，表现出较低的迎合性，并具有一个可以识别用户行为问题的路由器。一个月后，OpenAI为未成年人推出了安全功能，包括一个年龄预测系统和一种让父母控制其青少年ChatGPT账户的方法。OpenAI周二宣布成立一个由心理健康专业人士组成的专家委员会，为公司在福祉和AI方面提供建议。

在这些令人担忧的故事出现仅几个月后，OpenAI似乎认为ChatGPT在脆弱用户方面的问题已得到控制。目前尚不清楚用户是否仍在GPT-5中陷入妄想的陷阱。虽然GPT-4o不再是ChatGPT的默认设置，但该AI模型今天仍然可用，并被数千人使用。

在ChatGPT中引入色情内容对于OpenAI来说是一个未知领域，并引发了更广泛的担忧，即脆弱用户将如何与新功能互动。虽然奥尔特曼坚持认为OpenAI并不是在“最大化使用”或优化参与度，但使ChatGPT更具色情性无疑可以吸引用户。

允许聊天机器人进行浪漫或色情角色扮演已成为其他AI聊天机器人提供商的有效参与策略，例如Character.AI。该公司已获得数千万用户，其中许多人以高频率使用其聊天机器人。Character.AI在2023年表示，用户平均每天花费两个小时与其聊天机器人交谈。该公司还面临一场诉讼，涉及其如何处理脆弱用户的问题。

OpenAI面临着扩大用户基础的压力。虽然ChatGPT已经被8亿每周活跃用户使用，但OpenAI正在与谷歌和Meta竞争，以建立大规模采用的AI驱动消费产品。该公司还为历史性的基础设施建设筹集了数十亿美元的资金，这笔投资最终需要OpenAI偿还。

虽然成年人肯定与AI聊天机器人有浪漫关系，但这在未成年人中也很受欢迎。来自民主与技术中心的一份新报告发现，19%的高中生曾与AI聊天机器人有过浪漫关系，或知道有朋友有过这样的关系。

奥尔特曼表示，OpenAI将很快允许“已验证的成年人”进行色情对话。一位OpenAI发言人告诉TechCrunch，该公司将依赖其正在构建的年龄预测系统，以确保ChatGPT的色情功能仅对成年用户开放。

正如奥尔特曼之前在博客文章中写道，如果OpenAI的年龄预测系统错误地将成年人标记为未成年人，ChatGPT用户可能需要上传其政府签发的身份证照片到ChatGPT以进行更正。奥尔特曼写道，尽管这是一种隐私妥协，但公司认为这是“值得的权衡”。

尚不清楚OpenAI是否会将色情内容扩展到其AI语音、图像和视频生成工具。

奥尔特曼声称，OpenAI还在使ChatGPT更友好和色情化，因为公司的“将成人用户视为成年人”原则。在过去的一年中，OpenAI已转向更宽松的内容审核策略，允许聊天机器人更宽容并减少拒绝。在2月，OpenAI承诺在ChatGPT中代表更多政治观点，并在3月，公司更新了ChatGPT以允许AI生成的仇恨符号图像。

这些政策似乎是为了让ChatGPT的回应在各种用户中更受欢迎。然而，脆弱的ChatGPT用户可能会从限制聊天机器人可以参与的内容的保护措施中受益。随着OpenAI向每周十亿活跃用户的目标迈进，增长与保护脆弱用户之间的紧张关系可能只会加剧。