Categories: 科技

Facebook以AI作为审核工具,提升仇恨语言处理效率389%!

脸书使用AI作为审核工具,提升了针对仇恨语言处理的效率达389%!

脸书亚太区内容政策经理瑪努(图片来源:Inside) 

脸书IG 20亿用户

社交媒体平台上的仇恨言论一直都是很难处理的问题,随着特定的社会事件发生,比如选举,会导致此问题更严重。脸书(Facebook)亚太区内容政策经理瑪努(Manu Gummi)6月3日说,脸书和Instagram合共超过20亿用户,来自不同语言和文化,为了让大家更加自由和安全的表达意见,制定了目前的内部审查系统。

(图片来源:Martech

内容规范5大核心

脸书社群规范包含了5大核心:意见,真实性,安全,隐私,尊严。

由于发表“意见”是自由人权的一部分,网络往往带来滥用的机会,为了确保用户有表达的自由,意见的安全性非常重要。“真实性”方面,为了让用户在平台上负责,确保用户的真实性,不能用假冒的身份。“安全”方面,不允许威胁,恐吓,伤害他人的言语或行为出现。“隐私”,确定用户身份,但又保有隐私。“尊严”,社群上人人平等,用户必须尊重自己也尊重他人,遵守社群规范。

(图片来源:inc.com)

每两周进行一次政策论坛

脸书内容政策制定小组每两星期都会举行一次“政策论坛”(Policy Forum),让多方面专家探讨当前的规范。之后,小组会针对内容咨询相关人员,内部外部相关利益者,之后再进行讨论,再做出决定,是否放入政策中实行。

关于仇恨的定义,是脸书面对的一大挑战,因为没有任何规范定义仇恨的言论。每个人对言论的容忍程度也不一样。仇恨言论也不能只是看一字一句,还要考虑到发言者和接收者的语境和脉络。仇恨言论是动态的,会随着时间过去而更变含义,因此很难掌握其变动性。

(图片来源:newsfeed

仇恨言论的要素和等级

无论如何,脸书还是归类了仇恨言论的要素:1.有攻击行为,包含暴力,刻板印象,贬低他人等。2.攻击对象的“受保护特征”,包括种族,国籍,宗教等。

仇恨言论的严重性程度方面,脸书也列出了三个等级:
第一级,最严重,包含语言暴力,冥灭人性言论,嘲弄仇恨罪的概念,比如将非裔明星和猴子后制融合等行为。
第二级,诋毁他人的陈述,轻视,憎恨,厌恶,咒骂等。
第三级,号召排挤或隔离某方面,诋毁或毁谤。

(图片来源:Wikimedia

AI审核提高效率

脸书自2017年开始执行内容审查,2018年使用AI人工智能作为辅助工具,脸书这几年一直在科技上进行投资,提高审核效率,也不断增加更多远的内容,保障用户的安全。

根据脸书社群守则执行报告显示,2019年12月-2020年12月间,脸书针对仇恨语言的处理效率增加了389%,AI科技主动侦测移除的仇恨言论比例为97.1%,比2017年的25%有明显进步。

(图片来源:台湾醒报

35,000审核人员

首先,AI会不断主动侦测内容,依照仇恨言论分等级,再交给人类审核,目前脸书负责审核的人员高达35,000人,其中15,000人全天候进行人工分析。用户也可以主动检举不当言论,脸书保证会在24小时内完成审核。
为了能够提高AI辨识内容能力和精准度,脸书团队致力提升多语言理解,完整贴文理解,和排序预先秩序的功能。除了平台的内容审核,用户也可以自己管理脸书上的隐私和动态设定,从而减低看到不当内容的机会。

文章资料来源:Inside

TTN Writer

Recent Posts

Enlace Suites I已售70%!IJM Land强势推出Enlace Suites II!位于雪隆新黄金三角,地点绝佳!

坐落于八打灵再也、谷中城与孟沙之间的最新现代高级公寓 Enlace Suites II 强势登场! 继首期项目取得傲人成绩后,IJM Land Berhad 与 Amona Group 重磅推介了其位于 Pantai Sentral Park…

9 hours ago

美女错过登机时间竟「闯停机坪」追飞机!荒谬画面遭疯传!2人下场曝光!

错过了登机的时间,她们直接去追飞机! 最近,两名女子因为错过飞机的登机时间,竟然直接冲上机场的停机坪,并在滑行的飞机旁手忙脚乱向机长挥手,试图让飞机停下来。画面随后在网上疯传,引起了不少讨论。

11 hours ago

35岁男子第一次交往!他自爆女友「一周要6次」差点被榨干!

一名35岁男子日前通过社交媒体发文,分享自己第一次交女友的经验。他透露,27岁的女友热爱运动,体力相当好,欲望也相当旺盛,让他直呼快要撑不住,甚至还一度萌生起分手的念头。不过,他又很喜欢对方,因此在感情和压力之间陷入两难。

12 hours ago

宝宝姓“死”全家人不知道要取什么名字!妈妈用「6笔画」直接解决难题!

孩子姓“死”,要取什么名字好? 中国一户人家因为拥有“死”这个特殊的姓氏,导致每次有宝宝出生,大家都会绞尽脑汁想要给宝宝取一个别具寓意又有趣的名字。结果,宝宝的妈妈仅用了6个笔画,就顺利解决了难题,名字和姓氏组合起来还有了长寿的意思。

12 hours ago

曾被TVB力捧!马赛首吐心声「重提被雪藏事件」!26岁跌落谷底!只能放下尊严和面子!

近日,前香港小姐季军马赛在社交平台上发布了一段自述视频,罕见地向大众剖白了自己出道以来的心路历程。从 20 岁出道即巅峰的 TVB 当家花旦,到 26 岁跌入人生谷底深陷自我怀疑,再到北上重做“龙套”演员。

12 hours ago

不给钱不让出殡!长女在父亲出殡当天锁死灵堂大门,逼妹妹签卖房协议!法院判决出炉了!

家人为避免丧事受阻,最终被迫签下一份财产分配协议,才让整场葬礼得以继续进行。

13 hours ago