记者｜陆柯言

时于今日，很少有互联网公司会否认内容风控的要紧性。不少互联网企业频频由于内容平安难题中招，尤其是在网民大批集中的社交、资讯、娱乐类产物中，内容风控在某种水平上可行称做平台的寿命线。

很长一段时间里，互联网企业都经过不停招聘内容审查人士来解决这一难题。2018年，今天头条一度将4000人范围的审查团队扩张至10000人。在国外，Facebook差不多每年都要以外包方式招聘几千名内容审查员，昨年这种数字也增添到了1万余名。

但随着内容方式和风险种类的增多，不停扩大审查团队的范围，曾经没再是这种难题的最优解。现在，购置内容风控效劳成为一个潮流，而以网易、qq、阿里等为首的大厂，是这种范畴的最热玩家。

网易易盾是网易麾下一站式数字内容风控品牌。在其营业商业化五周年之际，网易易盾总经理朱浩齐接纳了界面新闻专访。在采访中，他分享了易盾在内容风控范畴的经历，以及对产业趋向的观点。

全无疑问，此刻是内容风控产业快速增添的时期。尤其是在2017年《网站平安法》出台以后，不少公司对内容风控的重视水平直线上升。朱浩齐显露，近几年来，网易易盾的营收和新消费者的年增添率全在40%-50%左右，曾经成为细分范畴的头部玩家。

易盾最重要的有两类竞争者。一是国家内部互联网大厂，也具有相应的内容风控效劳，但基于企业的资源最重要的仍是投入在进行更为老练的营业上，在平安产业的角色更贴近于跟踪者，并没有将内容风控作为企业的最重要的策略；第二类则是创业企业，近年来颇为活泼，但在朱浩齐看来，内容风控范畴须要大批的应对经历积淀，这可能是创业企业面对的第一大挑战。

“假如只把内容风控当成一件纯技艺性的事宜，只要要准备少许训练数据，再做少许模子拿来用，也可行拿出来做业务。但假如是真实经验过内容平安痛苦的公司就会晓得，这类效劳不容易满足真正情景中的多变要求，这是这种产业第一大的门槛。”朱浩齐说。

众多人对网易的B端营业感觉陌生。据朱浩齐推荐，网易有包括邮箱、音乐、游戏、轻博客等在内的多款内容产物，往日出于产物本身的进行，为了幸免垃圾消息破坏产物气氛，须要在内容运营上引导使用者，因此也积淀了改善的内容风控体制，这即是网易易盾的由来。

他以为，易盾的优势在于更丰富的产业经历。以音乐产物为例，音乐软件中涉及到大批的文字歌词，这是比相片更难辩别的内容种类。“违纪消息的种类是多个多样的，少许音乐人在翻唱歌曲时，会刻意将此中的歌词改为违纪内容，经过原有旋律及歌曲名发展流传，此外少许无歌词的歌曲，须要带旋律去辩别，这也须要大批的训练才能明确辩别。”

虽然AI辩别技艺不停老练，但在下游依然须要大批的人力协助。这是由于，尽管每个平台都有一套内容审查准则，但内容的评判不容易十足依赖死板的划定，人力审查员都难以给出同一的明确决策，更不用提AI。因而，应用AI将疑似有害内容发送让人工审查发展两次判断，是日前产业的普及抉择。

朱浩齐提到，未来的内容风控方式可能是更构造化的。少许内容适用于A平台，但其实不适用B平台，一味封禁可能会不利于使用者体会。当现存评判准则没有办法明确判断内容能否“好”或“坏”时，易盾会给内容消息增添更多标签，最终提供一种构造化的结果给公司本人做判断。公司可行根据这点标签来判断内容能否符合本身。

下一种五年，易盾的指标是是改良技艺，让评判准则愈加精确，以降低循环地、机械性的人力审查，提升人工效率；另一方面，进一步丰富检验的维度，不但仅辩别内容，也辩别发出内容的人自身，用更多维度来提高辩别的明确性，幸免风险的发生。

从全世界互联网进行现状来看，不论是网民数量、上网时长仍是互联网内容种类全在飞速增添，互联网企业应对的内容风险也因而变得越来越繁杂。朱浩齐以为，内容风控是全世界互联网企业的长久挑战，资产链依然有众多待改善步骤，产业的天花板依然很高。