OpenAI 周一发布了新数据，说明有多少 ChatGPT 用户正在与心理健康问题作斗争，并与人工智能聊天机器人讨论此问题。该公司表示，在给定的一周内，0.15% 的 ChatGPT 活跃用户有“对话，其中包括潜在自杀计划或意图的明确指标”。鉴于 ChatGPT 每周有超过 8 亿活跃用户，这意味着每周有超过 100 万人。

该公司表示，类似比例的用户表现出“对 ChatGPT 的情感依恋程度更高”，并且数十万人在每周与人工智能聊天机器人的对话中表现出精神病或躁狂症的迹象。

OpenAI 表示，ChatGPT 中的此类对话“极为罕见”，因此难以衡量。也就是说，该公司估计这些问题每周影响数十万人。

OpenAI 分享了这些信息，作为其最近为改进模型响应有心理健康问题的用户所做的更广泛公告的一部分。该公司声称其在 ChatGPT 上的最新工作涉及咨询 170 多名心理健康专家。OpenAI 表示，这些临床医生观察到最新版本的 ChatGPT“比早期版本响应更合适、更一致”。

近几个月来，一些故事揭示了人工智能聊天机器人如何对与心理健康挑战作斗争的用户产生不利影响。研究人员此前发现，人工智能聊天机器人可以引导一些用户陷入妄想的兔子洞，这主要是通过阿谀奉承的行为强化危险的信念。

解决 ChatGPT 中的心理健康问题正迅速成为 OpenAI 的生存问题。该公司目前正被一名 16 岁男孩的父母起诉，该男孩在自杀前几周向 ChatGPT 吐露了自己的自杀念头。来自加利福尼亚州和特拉华州的州总检察长——这可能会阻止该公司的重组计划——也警告 OpenAI，它需要保护使用其产品的年轻人。

本月早些时候，OpenAI 首席执行官 Sam Altman 在 X 上的一篇帖子中声称，该公司已经“能够缓解 ChatGPT 中的严重心理健康问题”，但他没有提供具体细节。周一分享的数据似乎是这一说法的证据，尽管它引发了关于问题的普遍性的更广泛问题。尽管如此，奥特曼表示，OpenAI 将放宽一些限制，甚至允许成年用户开始与人工智能聊天机器人进行色情对话。

在周一的公告中，OpenAI 声称最近更新的 GPT-5 版本对心理健康问题的“理想反应”比之前的版本高出约 65%。在测试人工智能对自杀对话的反应的评估中，OpenAI 表示，其新的 GPT-5 模型符合公司期望的行为的比例为 91%，而之前的 GPT-77 模型为 5%。

该公司还表示，其最新版本的 GPT-5 在长时间对话中也能更好地满足 OpenAI 的保护措施。OpenAI 此前曾表示，其保障措施在长时间对话中效果较差。

除了这些努力之外，OpenAI 表示，它正在增加新的评估，以衡量 ChatGPT 用户面临的一些最严重的心理健康挑战。该公司表示，其人工智能模型的基线安全测试现在将包括情感依赖和非自杀性心理健康紧急情况的基准。

OpenAI 最近还为使用 ChatGPT 的孩子的父母推出了更多控件。该公司表示，它正在构建一个年龄预测系统，以自动检测使用 ChatGPT 的儿童，并实施一套更严格的保障措施。

尽管如此，目前尚不清楚围绕 ChatGPT 的心理健康挑战将持续多久。虽然 GPT-5 在安全性方面似乎比之前的 AI 模型有所改进，但 ChatGPT 的回应似乎仍然有一部分被 OpenAI 认为“不可取”。OpenAI 还仍然向数百万付费订阅者提供其较旧且安全性较低的人工智能模型，包括 GPT-4o。