Categories: 科技

Facebook以AI作为审核工具,提升仇恨语言处理效率389%!

脸书使用AI作为审核工具,提升了针对仇恨语言处理的效率达389%!

脸书亚太区内容政策经理瑪努(图片来源:Inside) 

脸书IG 20亿用户

社交媒体平台上的仇恨言论一直都是很难处理的问题,随着特定的社会事件发生,比如选举,会导致此问题更严重。脸书(Facebook)亚太区内容政策经理瑪努(Manu Gummi)6月3日说,脸书和Instagram合共超过20亿用户,来自不同语言和文化,为了让大家更加自由和安全的表达意见,制定了目前的内部审查系统。

(图片来源:Martech

内容规范5大核心

脸书社群规范包含了5大核心:意见,真实性,安全,隐私,尊严。

由于发表“意见”是自由人权的一部分,网络往往带来滥用的机会,为了确保用户有表达的自由,意见的安全性非常重要。“真实性”方面,为了让用户在平台上负责,确保用户的真实性,不能用假冒的身份。“安全”方面,不允许威胁,恐吓,伤害他人的言语或行为出现。“隐私”,确定用户身份,但又保有隐私。“尊严”,社群上人人平等,用户必须尊重自己也尊重他人,遵守社群规范。

(图片来源:inc.com)

每两周进行一次政策论坛

脸书内容政策制定小组每两星期都会举行一次“政策论坛”(Policy Forum),让多方面专家探讨当前的规范。之后,小组会针对内容咨询相关人员,内部外部相关利益者,之后再进行讨论,再做出决定,是否放入政策中实行。

关于仇恨的定义,是脸书面对的一大挑战,因为没有任何规范定义仇恨的言论。每个人对言论的容忍程度也不一样。仇恨言论也不能只是看一字一句,还要考虑到发言者和接收者的语境和脉络。仇恨言论是动态的,会随着时间过去而更变含义,因此很难掌握其变动性。

(图片来源:newsfeed

仇恨言论的要素和等级

无论如何,脸书还是归类了仇恨言论的要素:1.有攻击行为,包含暴力,刻板印象,贬低他人等。2.攻击对象的“受保护特征”,包括种族,国籍,宗教等。

仇恨言论的严重性程度方面,脸书也列出了三个等级:
第一级,最严重,包含语言暴力,冥灭人性言论,嘲弄仇恨罪的概念,比如将非裔明星和猴子后制融合等行为。
第二级,诋毁他人的陈述,轻视,憎恨,厌恶,咒骂等。
第三级,号召排挤或隔离某方面,诋毁或毁谤。

(图片来源:Wikimedia

AI审核提高效率

脸书自2017年开始执行内容审查,2018年使用AI人工智能作为辅助工具,脸书这几年一直在科技上进行投资,提高审核效率,也不断增加更多远的内容,保障用户的安全。

根据脸书社群守则执行报告显示,2019年12月-2020年12月间,脸书针对仇恨语言的处理效率增加了389%,AI科技主动侦测移除的仇恨言论比例为97.1%,比2017年的25%有明显进步。

(图片来源:台湾醒报

35,000审核人员

首先,AI会不断主动侦测内容,依照仇恨言论分等级,再交给人类审核,目前脸书负责审核的人员高达35,000人,其中15,000人全天候进行人工分析。用户也可以主动检举不当言论,脸书保证会在24小时内完成审核。
为了能够提高AI辨识内容能力和精准度,脸书团队致力提升多语言理解,完整贴文理解,和排序预先秩序的功能。除了平台的内容审核,用户也可以自己管理脸书上的隐私和动态设定,从而减低看到不当内容的机会。

文章资料来源:Inside

TTN Writer

Recent Posts

包红包不是礼尚往来?同事结婚,红包金额大缩水!他爆“经济状况不同”被网民酸!

包红包的礼仪大有讲究! 最近,一名网友在社交媒体分享,他结婚那年曾收到同事包的3600元新台币(约RM460)红包,然而如今结婚他只回礼1600元新台币(约RM205)的红包给对方。没想到,其他同事知道他回礼的金额后,当众调侃他,也让他不解直呼:“但有必要讲到跟这件事没关系的人都拿来当梗酸我吗”! (示意图来源:Canva) 原PO表示,他在结婚的时候,曾经收到A同事3600元新台币的红包。如今,A同事结婚时,他也同样包了红包回送对方。他表示A同事前几天休完婚假后终于返回职场,还想请一票同事喝星巴克,没想到此时B同事却脱口说出:“虽然我喝你的星巴克,但我只会回超商咖啡喔!”此话一出逗笑旁边其他同事,还有人看了原PO一眼,让他当下感到颇为奇怪。 (图片来源:编辑部截图) 后来原PO才发现,原来A同事曾与其他同仁爆料,称原PO当初结婚时包了3600元新台币的红包,但轮到A同事结婚时却只收到原PO的1600元新台币红包,也让他相当傻眼:“他如果觉得不舒服,可以私下跟我讲,但有必要讲到跟这件事没关系的人都拿来当梗酸我吗?” (示意图来源:Canva) 原PO认为,每个人的经济状况本就不同,而且宾客红包也只是给予一对新人的心意:“又不是你以前包给我3600,就等于欠你3600?” 贴文曝光后,不少网民一面倒认为原PO的举动有点失礼,“你猜礼簿要干嘛的?就是之后要还人情的,人家包3600,你也至少包3600回去才是礼貌”、“没办法回3600当初就不要炸人家,还敢上来讨拍,真的是颠覆我的三观”。 (图片来源:编辑部截图) 也有网民认为,“我想你搞错了!红包是礼尚往来,乐捐才是心意”、“只能说、你真失礼!”、“加不上去,至少应该要一致回3600才是”、“除非你当初有退回红包,否则回包至少要3600,这才是礼貌”、“你还记得人家包3600给你,那你回包1600是什么意思?” 新闻来源:镜周刊*部分照片取自网络,内容谈谈网归有,若想参考请附加此文的链接。谢谢!照片如有侵犯版权问题请告知,谈谈网必定删除。

2 days ago

居家服刑可像普通人生活?律师揭「居家服刑的误解」!仍有许多限制!

居家服刑不代表可像普通人一样生活! 吉隆坡、纳闽及联邦直辖区特赦局今日(18日)宣布,国家元首苏丹依布拉欣有条件御准前首相拿督斯里纳吉居家服刑。不过,外界目前对居家服刑存在不少误解,律师指出,居家服刑并不意味着囚犯可以自由生活!

2 days ago

【一起谈心事】我这种老店还有未来吗?

我在槟城街角开杂货店开了几十年,现在是我觉得最灰心的时刻。几十年来,我每天清晨就起床,8点准时拉开闸门,看着熟悉的街坊走进店里买米、买面、顺便聊几句家常。我做的不是生意,更像是这条街的温暖角落,几十年来如一日。那时候,一条街认识一条街的人;现在,一条街只认识品牌的名字。

2 days ago

经营频道不满没人看!熊孩子用「爸爸的公司信用卡」狂下广告冲播放次数!

美国一名9岁男童经营了一个YouTube频道,但因为观看次数偏低,有一次他看了爸爸示范YouTube推广后,以为花越多钱就能换取更多观看,于是他用爸爸的信用卡多次建立高额推广计划,直到爸爸收到公司的面谈通知后,才揭发这件事……

2 days ago

超惊险!包妈公开「生女之痛」!揭当时失去行动与生活能力!血糖狂飙被迫早产!

远嫁北欧的马来西亚 YouTuber “包妈”近日在社交媒体上感性发文,详述自己怀上小女儿时的惊险与剧痛过程。

2 days ago

网民亲测有用!洗完澡花一分钟“做这动作”,家里厕所不长霉!专家教你“洗澡后防霉4步骤”!

原来只要沐浴后用冷水冲一圈沐浴间,降温兼冲走肥皂残渣,就能让厕所恢复干爽的同时,还能有效防霉。

2 days ago