人工智能学会反驳偏执者
385字
2020-06-30 11:11
43阅读
火星译客

像Facebook这样的社交媒体平台结合了人工智能和人工版主来侦查和删除仇恨言论。但现在,研究人员开发了一种新的人工智能工具,它不仅能删除仇恨言论,还能对其做出反应,比如:“使用的语言非常无礼。”所有种族和社会群体都应该得到宽容。

“这种类型的干预反应有望缩短我们在这类论坛中经常遇到的仇恨循环。”

英特尔的数据科学家安娜·贝斯克说。她说,这样做的目的是用更多的言论来对抗仇恨言论。这是由美国公民自由联盟和联合国人权事务高级专员倡导的方法。

因此,贝斯克和在加州大学圣巴巴拉分校的同事们,从Reddit网站上获得了5000多条对话,从社交媒体网站gaba上获得了近12000条对话。

研究人员让真人对Reddit和Gab对话中的仇恨言论做出样本反应。然后,他们让自然语言处理算法从真实的人类反应中学习,并形成自己的算法。比如:“我不认为使用带有性别歧视的语言有助于提高谈话的效率。”

听起来不错。但这些机器也会发出一些让人挠头的回答,比如:“这是不允许的,也没有时间根据肤色来对待人。”

“当科学家们要求人类评论者在人类反应和机器反应之间盲目选择时……嗯,大多数时候,人类赢了。”研究小组将研究结果发表在Arxiv网站上,并将于下月在香港举行的“自然语言处理的经验方法”会议上发表。

贝斯克说,最终目的是激发更多的对话

。“这不仅仅是一个人和一个机器人之间的讨论,而是要开始在社区内部引发可能有害的人和那些可能被他们伤害的人之间的对话。”

换句话说:带回美好的话语?

“哦!我不知道是否会走得那么远,但这是我刚提出的建议,嗯?”

0 条评论
评论不能为空