来源：https://www.extremetech.com/defense/darpa-funded-study-uses-ai-to-detect-violations-of-social-norms-in-texts
您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
DARPA资助的研究：用AI检测违反社会规范的文本行为
2023年07月27日 由 Susan 发表
229582
0
美国国防高级研究计划局（DARPA）暂时将注意力从自动飞行的直升机和人类识别机器人转移到了为一种奇特的AI实现提供资源。在该局的资助下，以色列本古里安大学的研究人员创建了一种能够检测社会规范违规的AI工具。这个工具能够可靠地发现10种不同类型的社会规范违规，为心理学家和社会学家提供了一种研究人类行为的独特方式。
根据在《Scientific Reports》杂志上发表的一篇论文，研究人员Yair Neuman和Yochai Cohen使用了GPT3、基于自然语言接口（NLI）的零样本文本分类和自动规则发现来创建该系统。强大的语言预测模型GPT3使研究人员能够形成一套基础的社会规范类别，从而可以评估违规行为。由于该系统将根据文本进行训练，Neuman和Cohen使用了基于NLI的零样本分类来分析每个文本示例中的前提和关系。同时，自动规则发现为违规检测提供了基础，社会科学家可以通过与工具进行交互来理解这个过程，而不是产生大多数模型生成的费解的黑盒过程
这个工具可以识别违反10种社会规范类型的行为：能力、礼貌、信任、纪律、关心、和善、成功、符合规范、端庄和忠诚。当研究人员输入一个文本情境时，该工具会评估该文本是否描述了社会规范的违规行为。在一个类似肥皂剧情节的文本中，描述了一对已婚夫妇有相互欺骗的倾向，这个工具识别出了羞愧。相反，在描述学术成功的文本中，该工具发现“叙述者”遵守了社会规范（即在学校表现良好），并且因此而获得了奖励（自豪感）。
“当人们感到羞愧、尴尬或后悔时，可以假设他们意识到违反了社会规范，”Neuman和Cohen写道。“这些后果性的社会情绪似乎在社会贬值机制中具有演化基础，并在支持合作方面起着明确的作用。”
研究人员指出，社会规范的重要性因社会群体甚至个体而异，这意味着当个人认为“正确的事情”是不符合特定社会规范时，他们可能会避免符合这些规范的要求。因此，像这样的工具可能为研究人类决策、价值观、合作甚至利他主义提供了一条新的研究途径（因为违反社会规范通常会带来后果，如上述所述）。这听起来很好，但这并不能解释为什么国防高级研究计划局（DARPA）会对这个项目感兴趣到提供资金支持的程度。因此，人们不禁要想知道DARPA为什么会介入这样一个研究社会规范并识别在任何社会环境中必然发生的违规行为的系统中。
根据在《Scientific Reports》杂志上发表的一篇论文，研究人员Yair Neuman和Yochai Cohen使用了GPT3、基于自然语言接口（NLI）的零样本文本分类和自动规则发现来创建该系统。强大的语言预测模型GPT3使研究人员能够形成一套基础的社会规范类别，从而可以评估违规行为。由于该系统将根据文本进行训练，Neuman和Cohen使用了基于NLI的零样本分类来分析每个文本示例中的前提和关系。同时，自动规则发现为违规检测提供了基础，社会科学家可以通过与工具进行交互来理解这个过程，而不是产生大多数模型生成的费解的黑盒过程
图片来源：Neuman等人/科学报告/10.1038/S41598-023-35350-X
这个工具可以识别违反10种社会规范类型的行为：能力、礼貌、信任、纪律、关心、和善、成功、符合规范、端庄和忠诚。当研究人员输入一个文本情境时，该工具会评估该文本是否描述了社会规范的违规行为。在一个类似肥皂剧情节的文本中，描述了一对已婚夫妇有相互欺骗的倾向，这个工具识别出了羞愧。相反，在描述学术成功的文本中，该工具发现“叙述者”遵守了社会规范（即在学校表现良好），并且因此而获得了奖励（自豪感）。
“当人们感到羞愧、尴尬或后悔时，可以假设他们意识到违反了社会规范，”Neuman和Cohen写道。“这些后果性的社会情绪似乎在社会贬值机制中具有演化基础，并在支持合作方面起着明确的作用。”
研究人员指出，社会规范的重要性因社会群体甚至个体而异，这意味着当个人认为“正确的事情”是不符合特定社会规范时，他们可能会避免符合这些规范的要求。因此，像这样的工具可能为研究人类决策、价值观、合作甚至利他主义提供了一条新的研究途径（因为违反社会规范通常会带来后果，如上述所述）。这听起来很好，但这并不能解释为什么国防高级研究计划局（DARPA）会对这个项目感兴趣到提供资金支持的程度。因此，人们不禁要想知道DARPA为什么会介入这样一个研究社会规范并识别在任何社会环境中必然发生的违规行为的系统中。
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
上一篇
人工智能促进本地招聘信息的洞察力
广告
广告
写评论取消
回复取消