OpenAI建立儿童安全团队,以应对生成式AI工具被未成年人滥用的问题

2024年02月08日 由 neo 发表 59 0

在家长和相关人士的密切关注下,OpenAI迈出了重要一步,成立了一个全新的儿童安全团队,旨在研究并防止其AI工具被未成年人滥用或误用。这一举措凸显了该公司对于保护未成年用户的决心和关注。

QQ截图20240208142057

据OpenAI招聘页面上的最新招聘信息透露,这个儿童安全团队将与平台政策、法律和调查组以及外部合作伙伴紧密合作,共同管理与未成年用户相关的“流程、事件和审查”。该团队目前正积极寻找一名儿童安全执法专员,该专员将负责在AI生成的内容背景下执行OpenAI的政策,并深入参与与“敏感”(可能与儿童相关)内容相关的审查流程。

随着生成式AI工具的普及,越来越多的儿童和青少年开始求助于这些工具,不仅用于学习辅助,还用于解决个人问题。然而,这也引发了人们对于未成年人如何安全、合规地使用这些工具的担忧。OpenAI此举正是为了应对这一挑战,确保未成年用户能够在安全、受保护的环境中使用AI工具。

事实上,一些大型技术供应商已经投入了大量资源来遵守相关法律,如美国儿童在线隐私保护法,这些法律对儿童在网上可以访问的内容以及公司可以收集的数据类型进行了严格规定。因此,OpenAI雇佣儿童安全专家并不令人意外,尤其是考虑到该公司预计将有大量未成年用户涌入。目前,OpenAI的使用条款要求13至18岁的儿童必须得到父母的同意才能使用,并严格禁止13岁以下的儿童使用。

然而,这个新团队的成立也反映出OpenAI对于违反与未成年人使用AI相关的政策以及可能引发的负面新闻的警惕。在过去的一年里,学校和大学纷纷对ChatGPT等生成式AI工具实施了禁令,担心学生会利用这些工具进行抄袭或传播错误信息。虽然一些学校已经撤销了禁令,但仍有人对生成式AI的潜在风险表示担忧。

有调查显示,超过一半的儿童表示曾经看到同龄人以负面的方式使用生成式AI,如制造虚假的可信信息或图片来伤害他人。这进一步加剧了人们对于未成年人如何正确使用这些工具的担忧。

为了指导教育者如何使用生成式AI作为教学工具,OpenAI去年9月发布了ChatGPT在课堂上的文档,提供了相关提示和常见问题解答。然而,该公司在其中一个支持文章中也承认,其工具可能会产生一些不适合所有受众或所有年龄段的输出,并建议对儿童的暴露程度保持谨慎——即使是那些符合年龄要求的儿童。

随着生成式AI在教育领域的广泛应用,对于制定儿童使用这些工具的指导方针的呼声也越来越高。联合国教科文组织(UNESCO)在去年年底敦促各国政府对教育中使用生成式AI进行监管,包括实施用户的年龄限制以及数据保护和用户隐私的防护措施。该组织总干事奥德蕾·阿祖莱表示:“生成式AI可以是人类发展的巨大机遇,但它也可能造成伤害和偏见。它不能在没有公众参与和政府必要的保障和规定的情况下融入教育。”

在此背景下,OpenAI成立儿童安全团队无疑是一个积极的举措,旨在确保未成年用户能够在安全、受保护的环境中使用生成式AI工具,同时防止这些工具被滥用或误用。

文章来源:https://techcrunch.com/2024/02/07/openai-forms-a-new-team-to-study-child-safety/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消