您尚未登录账户
您的企业账号申请正在审核中
Meta暂停青少年对其AI聊天机器人角色的访问
Meta 不再允许青少年与其 AI 聊天机器人角色互动。这家社交媒体巨头在1月23日表示，正在开发新版本的角色，以为用户提供“更优质的体验”。
一篇关于安全主题的博客更新于去年十月发布，内容为：“在我们专注于开发新版本的同时，我们将暂时暂停青少年全球范围内对现有AI角色的访问。”
尽管Meta正在开发新软件，但对AI聊天机器人安全性的担忧持续加剧。
去年十月，联邦贸易委员会（FTC）披露，正在调查包括Meta在内的七家公司如何测量和评估其机器人对年轻人的不良影响。
去年12月，美国州检察长联盟致信包括Meta在内的13个主要人工智能参与者，建议他们需要采取更多措施防止与儿童的有害对话，举例说明谋杀、自杀和家庭暴力案件显然受人工智能输出影响。
而在新墨西哥州，Meta正面临一场将于二月开始的诉讼，指控其允许在其多个平台上进行儿童剥削。虽然此案并非专门针对AI机器人，但有报道显示，公司试图在审理过程中避免提及AI机器人——这显示了Meta对该领域批评的敏感度。
在这些发展中，Meta决定拒绝使用这些AI角色也就不足为奇了，他们称此举是“优先考虑青少年的安全”。
该供应商表示：“从未来几周开始，青少年将无法在我们的应用中访问AI角色，直到更新体验准备好。这适用于所有给我们设定青少年生日的人，以及那些自称成年人，但我们根据年龄预测技术怀疑是青少年的人。”
此举是对去年十月发布的措施的升级，当时Meta引入了控制措施，使家长能够看到孩子如何与AI互动，并完全屏蔽聊天。
此前路透社报道了一份泄露的Meta内部政策文件，显示公司容忍了许多家长认为不合适的AI机器人回应。
Meta的举措与OpenAI类似，OpenAI也引入了家长控制和敏感对话的重定向，原因是一名自杀的青少年ChatGPT用户家属提起过失致死诉讼。
虽然公司已撤销对Meta角色AI机器人的访问，但表示青少年仍可利用其AI助手获取“教育机会和有用信息”。
