
OpenAI 本周一直在暗示 AI 作为“医疗盟友”的角色——今天,公司宣布了一款与这一理念相匹配的产品:ChatGPT Health。
ChatGPT Health 是 ChatGPT 内部的一个沙盒标签页,设计用于用户在更安全、更个性化的环境中提出健康相关问题,拥有与 ChatGPT 其他部分不同的聊天记录和记忆功能。公司鼓励用户连接个人病历和健康应用,如Apple Health、Peloton、MyFitnessPal、Weight Watchers和Function,“以获得更个性化、更贴近现实的问题回答”。建议连接病历,使ChatGPT能够分析实验室结果、就诊摘要和临床病史;MyFitnessPal和Weight Watchers提供饮食指导;Apple Health 提供健康与健身数据,包括“运动、睡眠和活动模式”;以及功能,用于实验室测试的洞察。
在医疗记录方面,OpenAI表示与b.well合作,b.well将为用户提供后端集成上传医疗记录,因为该公司与约220万家医疗提供者合作。目前,ChatGPT Health 要求用户注册等待名单才能申请访问权限,因为该服务从早期用户的测试组开始,但产品将逐步推广给所有用户,无论订阅等级如何。
公司在博客文章中明确表示,ChatGPT Health“并非用于诊断或治疗”,但它无法完全控制用户离开聊天时如何使用人工智能。公司自己承认,在服务不足的农村社区,用户平均每周发送近60万条医疗相关信息,且ChatGPT中七成的医疗对话“发生在正常门诊时间之外”。今年八月,医生们发布了一份报告,讲述一名男子因接受ChatGPT的建议,将饮食中的盐替换为溴化钠,导致住院数周,患有18世纪的医疗状况。谷歌的人工智能概览(AI General)发布后数周成为头条新闻,原因是危险建议,比如在披萨上涂胶水,《卫报》最近的一项调查发现,危险的健康建议仍在继续存在,包括肝功能检测、女性癌症检测以及胰腺癌患者推荐饮食的虚假建议。
OpenAI在一篇博客文章中写道,基于其“去标识化的对话分析”,全球已有超过2.3亿人每周向ChatGPT提问与健康与养生相关的问题。OpenAI还表示,过去两年中,它与260多名医生合作,针对30个重点领域,提供了超过60万次模型输出的反馈,以帮助塑造产品的回答。
OpenAI在博客中声称:“ChatGPT可以帮助你了解最近的检测结果,准备与医生的预约,获得关于如何调整饮食和锻炼计划的建议,或根据你的医疗模式理解不同保险选项的权衡。”
OpenAI在其博客文章中似乎刻意避免提及的健康部分:心理健康。有许多成年人或未成年人在向ChatGPT倾诉后自杀的例子,OpenAI在博客文章中只模糊地提到用户可以在健康产品中自定义说明,“以避免提及敏感话题”。在周三与记者的简报会上,当被问及ChatGPT Health是否也会总结心理健康访问并提供相关建议时,OpenAI应用首席执行官Fidji Simo表示:“心理健康无疑是健康的一部分,我们看到很多人在心理健康对话中转向ChatGPT。”补充说,这款新产品“可以处理你健康的任何方面,包括心理健康......我们非常专注于确保在困境情况下做出相应反应,并向医疗专业人员、亲友或其他资源提供帮助。
该产品也可能加重健康焦虑,如疑病症。当被问及OpenAI是否引入了任何保障措施,帮助防止此类疾病患者在使用ChatGPT Health时恶化时,Simo表示:“我们做了大量工作,调整模型以确保信息丰富且从不危言耸听,如果需要采取行动,我们会直接向医疗系统求助。”
