Categories: 科技

Facebook以AI作为审核工具,提升仇恨语言处理效率389%!

脸书使用AI作为审核工具,提升了针对仇恨语言处理的效率达389%!

脸书亚太区内容政策经理瑪努(图片来源:Inside) 

脸书IG 20亿用户

社交媒体平台上的仇恨言论一直都是很难处理的问题,随着特定的社会事件发生,比如选举,会导致此问题更严重。脸书(Facebook)亚太区内容政策经理瑪努(Manu Gummi)6月3日说,脸书和Instagram合共超过20亿用户,来自不同语言和文化,为了让大家更加自由和安全的表达意见,制定了目前的内部审查系统。

(图片来源:Martech)

内容规范5大核心

脸书社群规范包含了5大核心:意见,真实性,安全,隐私,尊严。

由于发表“意见”是自由人权的一部分,网络往往带来滥用的机会,为了确保用户有表达的自由,意见的安全性非常重要。“真实性”方面,为了让用户在平台上负责,确保用户的真实性,不能用假冒的身份。“安全”方面,不允许威胁,恐吓,伤害他人的言语或行为出现。“隐私”,确定用户身份,但又保有隐私。“尊严”,社群上人人平等,用户必须尊重自己也尊重他人,遵守社群规范。

(图片来源:inc.com)

每两周进行一次政策论坛

脸书内容政策制定小组每两星期都会举行一次“政策论坛”(Policy Forum),让多方面专家探讨当前的规范。之后,小组会针对内容咨询相关人员,内部外部相关利益者,之后再进行讨论,再做出决定,是否放入政策中实行。

关于仇恨的定义,是脸书面对的一大挑战,因为没有任何规范定义仇恨的言论。每个人对言论的容忍程度也不一样。仇恨言论也不能只是看一字一句,还要考虑到发言者和接收者的语境和脉络。仇恨言论是动态的,会随着时间过去而更变含义,因此很难掌握其变动性。

(图片来源:newsfeed)

仇恨言论的要素和等级

无论如何,脸书还是归类了仇恨言论的要素:1.有攻击行为,包含暴力,刻板印象,贬低他人等。2.攻击对象的“受保护特征”,包括种族,国籍,宗教等。

仇恨言论的严重性程度方面,脸书也列出了三个等级:
第一级,最严重,包含语言暴力,冥灭人性言论,嘲弄仇恨罪的概念,比如将非裔明星和猴子后制融合等行为。
第二级,诋毁他人的陈述,轻视,憎恨,厌恶,咒骂等。
第三级,号召排挤或隔离某方面,诋毁或毁谤。

(图片来源:Wikimedia)

AI审核提高效率

脸书自2017年开始执行内容审查,2018年使用AI人工智能作为辅助工具,脸书这几年一直在科技上进行投资,提高审核效率,也不断增加更多远的内容,保障用户的安全。

根据脸书社群守则执行报告显示,2019年12月-2020年12月间,脸书针对仇恨语言的处理效率增加了389%,AI科技主动侦测移除的仇恨言论比例为97.1%,比2017年的25%有明显进步。

(图片来源:台湾醒报)

35,000审核人员

首先,AI会不断主动侦测内容,依照仇恨言论分等级,再交给人类审核,目前脸书负责审核的人员高达35,000人,其中15,000人全天候进行人工分析。用户也可以主动检举不当言论,脸书保证会在24小时内完成审核。
为了能够提高AI辨识内容能力和精准度,脸书团队致力提升多语言理解,完整贴文理解,和排序预先秩序的功能。除了平台的内容审核,用户也可以自己管理脸书上的隐私和动态设定,从而减低看到不当内容的机会。

文章资料来源:Inside

TTN Writer

Recent Posts

成人网红出钱建校帮助300名贫困儿童!结果她被质疑钱不干净!

想要做好事,结果被嫌…… 菲律宾一名经营成人平台的网红最近出资在家乡买地兴建学校,预计落成后可容纳约300名贫困学童。不过,她的善举却在当地引发激烈的道德争议,认为她通过成人产业赚钱,资金“不干净”……

2 days ago

在车祸现场拨打999该说什么?高级消防官揭「5关键提问」!提醒切勿随意搬动伤者!

在路上遭遇或目击交通意外时,许多民众常因慌乱而无法准确向救援单位提供关键资讯。 马来西亚消防与救援局高级消防官 Yogeswaran Elangovan 在接受 Eight 无限的访问时,详细讲解在遇见车祸后拨打 999 紧急热线时会被询问的 5 个关键问题,以及在车祸现场救援伤者时的重要注意事项。

2 days ago

【2027财政预算案】首相大秀中文!背诵这首「唐代诗句」!全场拍手尖叫!

首相兼财政部长拿督斯里安华今天(9日)在国会下议院提呈2027年财政预算案。除了宣布2027年的拨款及政策之外,安华还在提呈期间念诵唐代诗句:“不经㇐番寒彻骨,怎得梅花扑鼻香”,引得全场鼓掌。

2 days ago

【2027财政预算案】打工族/家庭/学生/买房福利一次看!最低薪金调高了!

无论你是每天在职场打拼的上班族、精打细算照顾家庭的父母、还在求学的学生,还是正为了第一套房努力存钱的首购族,政府在此次预算案中,推出了一系列与民众生活息息相关的新政策。

2 days ago

【滚动报道】2027财政预算案懒人包来了!这几个重点宣布跟你息息相关!

首相兼财政部长拿督斯里安华今天(9日)在国会下议院提呈2027年财政预算案。据了解,2027年财政预算案的拨款为RM4598亿4000万,较2026年的RM4192亿增加约RM400亿。

2 days ago

女子患忧郁症10多年!老公过世后她「病全好了」!关键原因曝光!

一名60多岁的女子患上忧郁症10多年,需要长期吃药。不过,最近她复诊时,竟神采奕奕询问医生自己是否可以停药,让医生十分惊讶询问原因。原来,这名女子这几十年的婚姻中承受着老公惯性出轨,如今他离世后,对她来说是一种解脱。

2 days ago