为何技术这么发达,鉴黄还要靠人海战术?

文/南七道、陈旖

近日,Facebook的CEO马克.扎克伯格宣布公司将会新增3000名内容审核员,他们负责审核平台上的内容,包括最近网上有出现的谋杀、自杀和强奸等视频。科技巨头聘用大量人力来做内容审核,已经不算什么稀奇事。Google、百度、腾讯、新浪、今日头条都设置了类似岗位。对于做内容的平台,内容审核尤其重要,一旦没有处理好,很有可能影响到整个公司的前景。为什么在科技如此发达的今天,机器还没法完全替代传统的人工审核?各大巨头还需要人海战术来鉴黄呢?

内容平台的阿克琉斯之踵

今年4月,一位泰国男子在Facebook上直播杀害亲生女儿的画面,随后该男子自杀。视频在Facebook上挂了近24个小时,大量用户看到婴儿被杀害的过程。其中一段视频播放量超过25万次,视频还被其他用户上传到其他视频网站。

色情、暴力、犯罪,这些不良内容多次在Facebook上出现,这让Facebook陷入争议。今年3月,一名15岁美国少女被多名男子性侵犯并被直播到Facebook上,视频吸引了至少40万人关注。有人称,这样的画面让人感到害怕和不安,“看了之后晚上都睡不着觉”。

事发后,Facebook团队意识到问题的严重性。Facebook的CEO扎克伯格公开表示,Facebook将尽一切努力避免此类内容再出现,并且表示Facebook要变成一个健康而安全的网络社区,还有很多工作要做。

扩招内容审核员正是Facebook为此做出的举措。此前,Facebook在全球已有4500名员工负责内容审核,此次扩招会让审核过程更加及时和准确。这些员工主要负责处理那些没有被审查到的、或者没有被立即删除的不良内容。

社交媒体时代,每天都有大量的用户在不断地生产内容。对于平台而言,除了补贴内容生产方外,还需要支出更多的内容审核成本。但尽管如此,平台还是不惜人力和财力,去做好内容审核的工作。一方面是大量的不良内容,会使得用户产生反感,会降低使用产品的频率甚至远离产品。劣币驱逐良币,不利于平台的长期发展。另外一方面,不良内容的发布,很有可能导致触犯国家法律,引来平台的管制甚至关闭,今年年初,知名的同性社区ZANK就因为直播涉黄被整体关闭。

在国内,BAT许多平台都设有内容审核员一职。以新浪微博为例,新浪微博是国内最大的社交平台之一。对于内容,新浪微博仍主要采用人工审核的方式。除了色情、暴力等不良内容,平台还会留意政治、宗教等敏感内容。但是依然有各种擦边或者不良内容的漏网之鱼。内容的审核和把关,成了各大内容平台的阿克琉斯之踵,从初创公司到科技巨头,没有人敢放松这根神经。除非是别有用心的想利用情色来吸引用户,但那样肯定不会长久。

让人绝望的内容审核工作

2013年,百度、腾讯、金山等10多个互联网公司组成“安全联盟”,用20万高薪招聘“首席淫秽色情鉴定官”。上班能看片还拿着高薪,网友调侃“简直没天理”。

其实,内容审核工作并没有想象中简单。以Facebook为例,Facebook已有的审核员每天要处理大量的UGC内容,他们需要审核包括色情、暴力、犯罪等多个方面的不良内容,在判断内容时会承受很大的压力。他们必须区分开普通儿童写真和儿童色情照片,还要分清楚这是朋友间的玩笑还是侵犯性内容。他们必须做到细致地归类,需要将内容放到具体语境下进行区分。要是没有审核到位,Facebook很有可能会被指责侵犯公民的言论自由。

审核员的工作,会对个人生活产生很大的负面影响。长期审查儿童色情作品后,他们会对接触孩子的人疑神疑鬼。观看太多色情图片甚至会影响他们的性生活和婚姻关系,他们已经对色情影像感觉到麻木。

今年1月,微软在线安全团队的成员向微软提起诉讼。因为他们每天被迫观看大量恐怖、色情和凶杀图片及视频,因此患上了心理后遗症,“经常失眠、做恶梦,脑子里充满图片和视频内容。”但微软官方表示,并不认同这两位前员工的观点, 公司每月都会对这些员工提供一定的心理支持。

(网络招聘“内容审核员”信息)

同样的情况,在中国也是普遍存在,尤其是在内容审核领域。不少公司会将内容审核交由外头公司承担,这些公司雇佣大量人力来做文字、图片、视频等内容的审核,审核员每天需要承担上百条甚至更多信息的审核工作。这些审核员领着3000到5000的月工资,大多生活在国内二、三线城市。路透社此前的一篇报道曾经将这项工作称为“高压、无望的工作”——每人每小时至少要看3000条微博,不少人因为压力太大且看不到上升空间而离开。

人工智能时代的审核尴尬

随着科技的发展,媒体和创业者都不断的勾画着,人工智能时代到来的激动场景,但时至今日,虽然通过机器学习,不断在提升系统对于内容类型的识别和判断概率。但对于内容的审核,科技巨头主要还是依赖人工,这真是特别的尴尬。

机器在很长时间内,根本不能完全取代人工审核。以Google为例,Google有超过一万名员工充当着搜索结果评估者的角色。这家业界领先的科技巨头仍需雇佣大量的劳动力来改善自身产品,这或许说明了人工智能局限性——机器还很难模拟出普通用户的使用体验,很难理解内容背后的深意,很难作出准确的“人的判断”。

而且,目前机器审核多用于文字内容。如机器检测到含有敏感词汇的内容,会将其删除或向用户发出警告。但对于图片、视频的审核,机器无法像对文字内容一样提取关键词,审核难度较大。在上述的Facebook杀童直播案中,机器就无法根据视频画面去鉴别内容性质。此时,人工审核将发挥其无可替代的作用。

对于Facebook这样拥有20亿用户的大型社交网站,除了人工审核,还有其他两种辅助审核渠道。一方面,Facebook引导用户使用举报功能。用户若发现色情视频、图片等不良信息,可以向平台举报。网站管理员收到信息后,会完成删图或者封号等后续处理。另一方面,Facebook也正在测试人工智能,希望进一步采用机器+人工的审核方法。比如,如果有一张裸体照片此前被删除,那么再次上传时就会被自动删除。

在国内,人工+机器审核是目前科技公司常用的审核方法。以快手为例,快手拥有数百人的内容审核团队,每条快手短视频、直播的发布都要经过机器和人工等多道审核。同时,不少第三方公司提供内容审核服务,如万象优图、网易易盾、图普科技、阿里绿网等多个产品,都可以辅助平台进行机器审核。优酷、荔枝FM、映客直播、美拍等多个平台都有使用这些第三方服务。

人工智能虽然取得了不错的发展,也在逐渐改变人们的生活方式,提升了社会效率。但是还远未到彻底解放人工的时代。对于内容审核的大量底层雇员来说,他们每天夹杂在科技巨头和海量信息之间,也许在将来,人工智能能彻底解放他们。不过真到了那一天,也就是他们失业的时候了。

来源:创世记

未经允许不得转载:博海拾贝 » 为何技术这么发达,鉴黄还要靠人海战术?