Categories: 科技

Facebook以AI作为审核工具,提升仇恨语言处理效率389%!

脸书使用AI作为审核工具,提升了针对仇恨语言处理的效率达389%!

脸书亚太区内容政策经理瑪努(图片来源:Inside) 

脸书IG 20亿用户

社交媒体平台上的仇恨言论一直都是很难处理的问题,随着特定的社会事件发生,比如选举,会导致此问题更严重。脸书(Facebook)亚太区内容政策经理瑪努(Manu Gummi)6月3日说,脸书和Instagram合共超过20亿用户,来自不同语言和文化,为了让大家更加自由和安全的表达意见,制定了目前的内部审查系统。

(图片来源:Martech)

内容规范5大核心

脸书社群规范包含了5大核心:意见,真实性,安全,隐私,尊严。

由于发表“意见”是自由人权的一部分,网络往往带来滥用的机会,为了确保用户有表达的自由,意见的安全性非常重要。“真实性”方面,为了让用户在平台上负责,确保用户的真实性,不能用假冒的身份。“安全”方面,不允许威胁,恐吓,伤害他人的言语或行为出现。“隐私”,确定用户身份,但又保有隐私。“尊严”,社群上人人平等,用户必须尊重自己也尊重他人,遵守社群规范。

(图片来源:inc.com)

每两周进行一次政策论坛

脸书内容政策制定小组每两星期都会举行一次“政策论坛”(Policy Forum),让多方面专家探讨当前的规范。之后,小组会针对内容咨询相关人员,内部外部相关利益者,之后再进行讨论,再做出决定,是否放入政策中实行。

关于仇恨的定义,是脸书面对的一大挑战,因为没有任何规范定义仇恨的言论。每个人对言论的容忍程度也不一样。仇恨言论也不能只是看一字一句,还要考虑到发言者和接收者的语境和脉络。仇恨言论是动态的,会随着时间过去而更变含义,因此很难掌握其变动性。

(图片来源:newsfeed)

仇恨言论的要素和等级

无论如何,脸书还是归类了仇恨言论的要素:1.有攻击行为,包含暴力,刻板印象,贬低他人等。2.攻击对象的“受保护特征”,包括种族,国籍,宗教等。

仇恨言论的严重性程度方面,脸书也列出了三个等级:
第一级,最严重,包含语言暴力,冥灭人性言论,嘲弄仇恨罪的概念,比如将非裔明星和猴子后制融合等行为。
第二级,诋毁他人的陈述,轻视,憎恨,厌恶,咒骂等。
第三级,号召排挤或隔离某方面,诋毁或毁谤。

(图片来源:Wikimedia)

AI审核提高效率

脸书自2017年开始执行内容审查,2018年使用AI人工智能作为辅助工具,脸书这几年一直在科技上进行投资,提高审核效率,也不断增加更多远的内容,保障用户的安全。

根据脸书社群守则执行报告显示,2019年12月-2020年12月间,脸书针对仇恨语言的处理效率增加了389%,AI科技主动侦测移除的仇恨言论比例为97.1%,比2017年的25%有明显进步。

(图片来源:台湾醒报)

35,000审核人员

首先,AI会不断主动侦测内容,依照仇恨言论分等级,再交给人类审核,目前脸书负责审核的人员高达35,000人,其中15,000人全天候进行人工分析。用户也可以主动检举不当言论,脸书保证会在24小时内完成审核。
为了能够提高AI辨识内容能力和精准度,脸书团队致力提升多语言理解,完整贴文理解,和排序预先秩序的功能。除了平台的内容审核,用户也可以自己管理脸书上的隐私和动态设定,从而减低看到不当内容的机会。

文章资料来源:Inside

TTN Writer

Recent Posts

交往都是AA制却被男友说「很花钱」!他解释原因网民傻眼!

一名女子与男友交往4年,两人实行极致的AA制,不论开房间、饮料、停车费都会平分,男友平时也不会买东西给她。即便女子认为各付各的并没有什么不好,但男友仍觉得跟她交往很花钱!她跟男友谈起这件事后,才知道……

2 mins ago

爆新婚5天带女网友进酒店!大咖歌手无预警删光结婚照!婚姻状况曝光!

韩国饶舌歌手于本月18日与交往多年的女友补办婚礼,没想到新婚仅5天就爆出他与女网友去汽车旅馆开房的丑闻!事件爆出后,有网民发现他突然将社交平台上的结婚照全数删除,还分享暗示感情出现裂痕的歌词……

1 hour ago

人事部职员曝公司「不敢再聘请女性」!原来是连续3次遇到同样的事!

一名自称拥有12年经验的人力资源部员工日前通过社交媒体发文,表示自己的公司现在已经不会再招收女性员工!她透露,公司连续遇到了三次类似事件,所以对员工的行为感到心寒……

3 hours ago

导航路线错误被骂爆!TuJu调整导航功能,把工作一键交给谷歌地图!

当他们使用TuJu导航后,系统会直接启动其他导航应用程式“谷歌地图”(Google Map)!

3 hours ago

毁你一生!借出银行账户轻松赚外快?其实你已沦为“钱骡”替人犯罪!教你4大防范方法!最严重后果…

为了仅仅几百、几千快的蝇头小利就轻易出借银行账户?当心!这看似轻松的“兼职”,其实已让你在不知不觉中,沦为了替诈骗集团洗黑钱的‘钱骡’。”

4 hours ago

35岁男子自制AI短剧月入RM6,000!他现身揭背后秘诀!最重要的是这东西!

中国武汉一名35岁的男子靠着自学AI技术,独立完成剧本、人物建模及影片剪辑,制作末日科幻短剧创下近亿的流量,每月能稳定赚1万多人民币(约RM6,100)!他透露,许多人制作短剧只顾追求精美画面,其实短剧的核心是故事,因此真正决定作品是否能爆红的关键,其实是创作者的脑袋!

4 hours ago