一提到鉴黄师,大家都充满了好奇,“阅片无数”还拿高薪的老司机是多数人对鉴黄师的印象。今天,腾讯公众号发布一篇《我是一名“鉴黄师”,但和你想的不一样》,向我们介绍了“鉴黄师”的真正面目。
多年前,国内多家物联网公司组成的“安全联盟”对外宣布,自公开招聘“首席淫秽色情鉴定官”一周来, 收到超过30万条的应聘留言,超过4000份的正式应聘简历。每天阅片,年薪二十万的诱惑,在当时引起了轰动。
据报道,传统鉴黄师的工作是非常繁重的,每年所要浏览的图片海量,工作内容已经超过了正常人所能承受的范围。此外,在面对数量庞大的“色情”内容后,对从业者的身体状况也有不小的负面影响。
文章介绍了腾讯安全部门内容风控天御团队一名研发负责人Fay的故事。Fay表示,“传统鉴黄师靠的是肉眼,而我们更依赖技术。”Fay表示,相比“鉴黄师”,自己的工作更像是AI人工智能的训练师。其所在团队使用AI鉴黄,他和同事每周会抽检5万条数据,包括图片、音频、文本,进行人工审核,筛出不良内容、标注违规类型,送给AI模型学习训练。现在系统的识别率达已经提升95%以上。
“色情、血腥、暴恐图片,很容易被识别,而有一些则隐藏很深,试图绕过AI。”Fay举例,有些音频场景,前半段很正常,“中间突然出现女人娇喘声。”有一些甚至是男的。随后,技术团队开发出了“娇喘识别”系统,对音频场景中的违规内容进行清理。但仍需要不断推动算法模型的调优和升级,比如在嘈杂背景识别声音违规等。
Fay也承认,在这个位置呆久了,也会吸收一些负面的信息,出现消极的情绪,一般通过开黑、打球、跑步、约饭来释放。