他是UGC内容纠察队 帮172家企业扫黄去广告获种子轮投资 今年营收1千万

◆  诸多论坛、社区等UGC内容的平台，都有过滤、净化网络垃圾的需求。

文| 铅笔道 记者  石 伟

►导语

在服务飞信的同时，许城等飞信安全团队选择为直播、媒体、自媒体过滤文字、图片、音频垃圾。

他们于2015年5月成立“云净网” ，项目定位为专业过滤网络垃圾信息、净化网络信息服务商。

截至目前，“云净网”已服务172客户，今年已营收1000万元。此外， “云净网”的垃圾文本、图像、违规音频的系统识别率分别为95%、85%、80%。

注: 许城承诺文中数据无误，为内容真实性负责。铅笔道作客观真实记录，已备份速记录音。

 放弃飞信服务自媒体

2013年起，飞信日渐式微。飞信安全运营的核心团队（隶属神州泰岳集团），看到了市场上对于内容安全的新需求产生，决定去开垦更大的市场。

云净网CTO许城就是团队中的一员。当时团队负责对飞信中的文本、图片以及其他UGC内容进行检查并过滤掉其中不符合国家要求比如色情、暴力信息。

这类需求在2015年迎来增长。随着斗鱼等各大直播平台问世、喜马拉雅、罗辑思维等自媒体百花齐放，内容领域处于一个爆发阶段。

在繁荣背后，媒体、自媒体以及平台还承担着责任：保证内容合规合法，不传播色情、低俗内容、不文明用语。

其实这些自媒体的担子并不轻松。由于文章、视频、直播等内容自带的传播力不小，一篇10万+文章便可在社交圈子引起轰动，所以国家相关部门的管理力度愈来愈大。

遗憾的是，面对愈发严格的要求，许多自媒体以及直播平台心有余而力不足。粉丝或用户越多，产生的UGC越多，而且是实时更新，平台一有疏忽，便可能造成不可想象的后果。

组建研发以及人工审核团队是一笔不小的开支，如Facebook在印度的人工审核团队达到3000人。这还不包括文字、图片等数据的长期积累所产生的费用。

看中这几点，包括许城在内的团队于2015年5月成立“云净网”，于当年年末正式运转。项目定位为过滤文字、图片、视频、音频等网络垃圾信息，净化网络信息服务商。

辅助“人工鉴黄师”工作

虽然在去年企业安全是一片处女地，且其余企业不愿进入，但利润低、有一定技术门槛等问题，也会拉慢“云净网”的发展进度。

好在，背靠神州泰岳，许城与团队并不缺乏资金，“云净网”于2016年1月获得种子轮融资，投资方为北京云中融信网络科技有限公司。

但积累用户需求以及数据库是一个较为漫长的过程。为此，许城与团队决定依靠之前为飞信服务的原始过滤引擎，为客户一边服务，一边收集用户需求，升级系统。

“云净网”第一个客户是社交媒体网站，随后接触的客户是媒体网站。团队之所以选择这些客户，有几方面原因：这些网站对于内容审查的觉悟高，且其社区的UGC内容多为文字与图片，是许城与团队之前的强项。

等到用户积累到一定数量，公司现金流稳定，许城与团队决定对识别难度高、常备广告与色情信息缠绕的图片识别进行发力。

当时，随着不同公司对于垃圾文本识别能力提高，不法分子开始进攻图片领域，比如发布色情图片与明显血腥、暴恐图片，往图片添加牛皮癣小广告。

识别图片要比识别垃圾文本难度要大，不仅需要识别图片内容，还要判断图片尺度，区分“性感”与“色情”，当时为了鉴别图片，网络上甚至催生了人工鉴黄师。

许城所做的就是辅助“人工鉴黄师”工作。在喂食了大量图片后，团队自主研发的AI过滤系统，可以抽取图片中的人物，并根据人物计算每个部位的裸露程度，查看关键部位是否暴露。

除了利用AI训练图片识别，许城与团队还利用AI提升文字识别效率。因为与英语相比，汉字的词组与短句组成更为复杂，所以各个行业的权威词汇需要不停补充。为此，团队在基于行业的权威词库的基础上，构建并训练一个热词发现模型，该系统可以自动添加新鲜语料。

除了丰富识别类型，团队还需要解决直播平台快速反应的要求。比如“云净网”的客户猎豹移动，要求对直播间的语聊、文字等互动内容实时监测，并在200毫秒内反馈给直播平台。

因此，除了提高技术解决能力，许城与团队还想了一个好方法，即从监控发布内容到监控发内容的人。系统结合某人的历史行为，通过用户行为分析，形成一套相对完整的体系，对某些有过不良行为的人进行防控。

系统虽然好用，但现阶段行业仍离不开人工审核，包括Facebook在内的大型公司仍有庞大的人工审核团队。因为有些模糊识别的图片经过系统标注后，仍需要通过人工审核判断是否合规，所以团队也在搭建人工审核团队，提供外包服务（目前人工审核团队近200人，分别分布在重庆、青岛）。

截至目前，“云净网”已服务172客户，今年已营收1000万元。此外， “云净网”的垃圾文本、图像识别、违规音频的系统识别率分别为95%、85%、80%。

现在，该项目正在寻求A轮融资，预计金额为3000万元。

/The End/

编辑   孙 娇   校对   吴泽骞

优质项目"融资首发绿色通道"：创业者请加微信xmzzz0，务必注明项目名称；或发送BP至xueting@pencilnews.cn。

如需转载文章请联系铅笔道微信客服号铅笔道大芯芯（微信id：qianbidao2017）获取授权资质，否则我们将依法追究相关责任