""
跳到内容

在线监控反抛光仇恨的新技术

2019年8月6日

Person using laptop

人工智能正被用于解决在反对英国退欧问题上的反波兰仇恨犯罪。

总部位于加的夫大学的hatelab研究人员正在与武士实验室合作,这是一个波兰人工智能实验室,用于监控积极的社交媒体内容并确定与线下事件的任何联系。

在英国脱欧公投之后的一年里,警方记录的最大骚扰是仇恨犯罪 - 比去年增加了57%。 2017/18年度,英格兰和威尔士警方共记录了94,098起仇恨犯罪案件 - 与前一年相比增加了17%。

超过900,000名波兰人居住在英国,使他们成为最大的少数民族。武士实验室进行的试点研究表明,在英国社交媒体上发表的关于该群体的材料中有高达5%具有消极或令人反感的内涵。

hatelab是数据和洞察仇恨言论和犯罪的全球中心。使用数据科学方法,包括ai的道德形式,该计划旨在衡量和解决线上和线下的仇恨问题。学术界与政策合作伙伴共同开发了在线仇恨言语仪表板,以预防街头仇恨犯罪的爆发。

加的夫大学hatelab主任马修威廉姆斯教授说:“我们知道2016年的欧盟公投引发了网络仇恨言论的激增,同时线下的仇恨犯罪显着增加。随着联合王国准备离开欧洲联盟,使用最先进的人工智能方法对于帮助当局快速识别警告标志并为居住在这里的波兰社区提供安慰和保障至关重要。“

武士实验室开发的人工智能算法可以准确区分网络攻击和无害评论。他们还能够精确定位侵略的精确类型。当需要在离线事件周围识别此类内容中的峰值时,这些功能尤为重要。

武士实验室的首席执行官michałwroczyński说:“我们首先区分了针对波兰血统的英国居民的八种口头攻击,从侮辱和要求他们回家,到对生命和肢体的威胁。

“口头攻击并不一定是指起源。大多数只是令人反感的言论,可以针对任何国家。这类事件占整个案件总数的近40%。

大约15%与波兰密切相关。这些主要是关于极地和波兰的冒犯性言论,以及旨在对与我们国家和人民有关的表达给出负面角度的各种口头表述。只有2%至3%的案例涉及我们的历史。

michałwroczyński

武士实验室人工智能研究主任gniewosz leliwa说:“我们必须非常精确,并对语言有深刻的理解。关键词当然不足。有人可以在不使用任何特征词的情况下制造应受惩罚的威胁。 “同样地,粗俗的使用并不总是与积极的信息联系在一起。我们的系统能够理解上下文并正确地将真实威胁与普通会话分开。“

hatelab是大学社会科学学院与计算机科学与信息学院之间的社会数据科学实验室的一部分,由经济和社会研究理事会(esrc)以及美国司法部门资助建立。它在五个正在进行的项目中共获得了1,726,841英镑的资金。

威廉姆斯教授补充说:“我们很高兴与武士实验室合作。事实证明,他们的创新方法在检测网络欺凌和网络攻击方面非常准确。我们非常希望在发现对少数民族的侵略方面取得类似的成功。

“鉴于武士实验室的波兰根源,我们希望我们能够获得新知识并更好地理解与此问题相关的细微差别。他们正在开发的技术将成为我们在线仪表板的重要组成部分。“

分享这个故事