(网络招聘“内容审核员”信息)
同样的情况,在中国也是普遍存在,尤其是在内容审核领域。不少公司会将内容审核交由外头公司承担,这些公司雇佣大量人力来做文字、图片、视频等内容的审核,审核员每天需要承担上百条甚至更多信息的审核工作。这些审核员领着3000到5000的月工资,大多生活在国内二、三线城市。路透社此前的一篇报道曾经将新浪微博的这项工作称为“高压、无望的工作”——每人每小时至少要看3000条微博,不少人因为压力太大且看不到上升空间而离开。
人工智能时代的审核尴尬
随着科技的发展,媒体和创业者都不断的勾画着,人工智能时代到来的激动场景,但时至今日,虽然通过机器学习,不断在提升系统对于内容类型的识别和判断概率。但对于内容的审核,科技巨头主要还是依赖人工,这真是特别的尴尬。
机器在很长时间内,根本不能完全取代人工审核。以Google为例,Google有超过一万名员工充当着搜索结果评估者的角色。这家业界领先的科技巨头仍需雇佣大量的劳动力来改善自身产品,这或许说明了人工智能局限性——机器还很难模拟出普通用户的使用体验,很难理解内容背后的深意,很难作出准确的“人的判断”。
而且,目前机器审核多用于文字内容。如机器检测到含有敏感词汇的内容,会将其删除或向用户发出警告。但对于图片、视频的审核,机器无法像对文字内容一样提取关键词,审核难度较大。在上述的Facebook杀童直播案中,机器就无法根据视频画面去鉴别内容性质。此时,人工审核将发挥其无可替代的作用。
对于Facebook这样拥有20亿用户的大型社交网站,除了人工审核,还有其他两种辅助审核渠道。一方面,Facebook引导用户使用举报功能。用户若发现色情视频、图片等不良信息,可以向平台举报。网站管理员收到信息后,会完成删图或者封号等后续处理。另一方面,Facebook也正在测试人工智能,希望进一步采用机器+人工的审核方法。比如,如果有一张裸体照片此前被删除,那么再次上传时就会被自动删除。