您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
医疗保健中的人工智能可能加剧种族和收入不平等
2023年07月24日 由 Susan 发表
520029
0
科学家担心在医疗领域使用像ChatGPT这样的人工智能模型将加剧不平等现象。
来自剑桥大学和莱斯特大学的流行病学家们警告说，大型语言模型（LLM）可能会加强种族少数群体和低收入国家的不公平现象。
他们的担忧源于系统性的数据偏见。在医疗领域使用的人工智能模型是根据网站和科学文献的信息进行训练的。但有证据显示，这些来源往往缺乏种族数据。
因此，人工智能工具对于少数群体的准确性可能较低。这可能导致无效的药物推荐或种族主义的医疗建议。
研究人员在他们的研究论文中表示：“众所周知，在许多疾病群体中，少数族的后代背景与差异化风险相关。”
“如果已发表的文献存在偏见和不精确性，那么未来的人工智能模型会保持并进一步加剧这些问题是合乎逻辑的。”
科学家们还对低收入和中等收入国家（LMIC）面临的威胁表示关注。人工智能模型主要由富裕国家开发，这些国家也主导医学研究的资金。
结果是，LMIC在医疗培训数据中“严重欠代表”。这可能导致人工智能工具向这些国家的人们提供错误的建议。
尽管存在这些担忧，研究人员认识到人工智能在医学领域带来的好处。为了减轻风险，他们提出了几项措施。
首先，他们希望模型清楚地描述其开发过程中使用的数据。他们还呼吁进一步工作来解决研究中的卫生不平等问题，包括更好地招募和记录种族信息。
培训数据应该足够具有代表性，同时需要进一步研究将人工智能应用于边缘化群体。研究人员表示，这些干预措施将促进公平和包容的医疗保健。
来自莱斯特大学的Mohammad Ali博士表示：“我们必须谨慎行事，承认我们不能也不应该阻挡进步的流动。”
来源：https://thenextweb.com/news/ai-chatgpt-healthcare-exacerbate-inequalities-ethnic-minorities
来自剑桥大学和莱斯特大学的流行病学家们警告说，大型语言模型（LLM）可能会加强种族少数群体和低收入国家的不公平现象。
他们的担忧源于系统性的数据偏见。在医疗领域使用的人工智能模型是根据网站和科学文献的信息进行训练的。但有证据显示，这些来源往往缺乏种族数据。
因此，人工智能工具对于少数群体的准确性可能较低。这可能导致无效的药物推荐或种族主义的医疗建议。
研究人员在他们的研究论文中表示：“众所周知，在许多疾病群体中，少数族的后代背景与差异化风险相关。”
“如果已发表的文献存在偏见和不精确性，那么未来的人工智能模型会保持并进一步加剧这些问题是合乎逻辑的。”
科学家们还对低收入和中等收入国家（LMIC）面临的威胁表示关注。人工智能模型主要由富裕国家开发，这些国家也主导医学研究的资金。
结果是，LMIC在医疗培训数据中“严重欠代表”。这可能导致人工智能工具向这些国家的人们提供错误的建议。
尽管存在这些担忧，研究人员认识到人工智能在医学领域带来的好处。为了减轻风险，他们提出了几项措施。
首先，他们希望模型清楚地描述其开发过程中使用的数据。他们还呼吁进一步工作来解决研究中的卫生不平等问题，包括更好地招募和记录种族信息。
培训数据应该足够具有代表性，同时需要进一步研究将人工智能应用于边缘化群体。研究人员表示，这些干预措施将促进公平和包容的医疗保健。
来自莱斯特大学的Mohammad Ali博士表示：“我们必须谨慎行事，承认我们不能也不应该阻挡进步的流动。”
来源：https://thenextweb.com/news/ai-chatgpt-healthcare-exacerbate-inequalities-ethnic-minorities
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消