短视频审核划100条红线！内容平台如何建设高效审核机制？

2019年1月9日，中国网络视听节目服务协会发布《网络短视频内容审核标准细则》和《网络短视频平台管理规范》，列出100条短视频不得出现的具体内容。 

为了尽快防止有害内容传播，《网络短视频内容审核标准细则》分别列出21个方面、100条细则进行具体阐述，包括攻击我国政治制度，法律制度，中国特色社会主义道路、理论、制度和文化以及国家既定重大方针政策、破坏社会稳定如影响公共秩序与公共安全的群体性事件及分裂国家，损害国家形象等的内容均不能在短视频内容中出现。 

近年来，短视频行业持续发展，短视频App用户已突破5亿。但在用户规模不断增长的同时，内容乱象却也日渐凸显。为治理内容乱象，相关监管部门不断强化监管，去年底，北京市公安局网安总队曾发布数据称，北京网安系统于2018年三季度开展对短视频类网站专项整治，共清理违规短视频130余万部，关闭违规直播间53万间，封停违规账号80万个，行政处罚违规平台3家。 

《网络短视频平台管理规范》指出，开展短视频服务的网络平台，应当持有《信息网络传播视听节目许可证》(AVSP)等法律法规规定的相关资质，并严格在许可证规定的业务范围内开展业务。与此同时，网络短视频平台还应当建立总编辑内容管理负责制度，并实行节目内容先审后播制度，即平台上播出的所有短视频均应经内容审核后方可播出，原则上审核人员人数应当在本平台每天新增播出短视频条数的千分之一以上。 

新规中提到的先审后播也对短视频行业提出了更高的要求，在短视频公司每天庞大且冗杂的视频产出量面前，千分之一的审片员显得捉襟见肘，效率与合规成了鱼与熊掌，在企业寻求两者兼得的过程中，势必会引发新一轮的行业洗牌。

为了更好地帮助短视频内容平台在合规运营的同时降低成本，七牛云“明瞳”内容安全提供一站式的 AI 机审+专员复审服务体系。有效过滤视频、图片与直播流中 99.5% 涉黄、涉暴和涉政敏感等内容，节省 80% 的综合成本，实现零风险运营、零门槛使用以及零负担管理。

 “明瞳”内容安全构建了AI+人审的完整体系，综合准确率不断提升，同时实现了违规内容自动封禁的功能，做到一旦发现及时阻断。 另外，“明瞳”与监管部门项目合作，深入理解监管标准，提供完善审核能力。

针对“审核效率低下”的问题，七牛云“明瞳”提供日均数亿次审核的能力，更是提供了“一键开启”的便捷体验，无需开发一行代码，在portal做简单设置后即可开始审核，审核结果直观可视。此外，“明瞳”还提供了全局内容违规比例以及历史趋势的展示，使得用户对于内容风险程度和趋势一目了然，从而可以更有针对性地从源头做好内容安全。

针对“审核人力成本高”的问题，“明瞳”可有效帮助用户降低审核成本。比起自建审核可节省 98%，综合成本可降低 80%。“明瞳”提供免费试用，用户可以免费体验。

面对视频内容，首先会根据场景分镜，分别经过声音的识别、文字的识别、动作的分类、场景、物品以及人物的识别进行结构化预处理，然后再结合时序融合、深度学习这些综合的判断，理解这个视频内容。

视频内容的理解判断基于既定的审核标准和历史数据的学习之上，如何应对内容审核以下难点？比如客户需求比较多，业务场景、业务类型不一样，所以审核标准和尺度是不一样的。对于突发事件的应对是比较难的，因为它对时效性的要求非常高。还有一类是违规内容的变种多，因为内容违规具备一定的对抗性，有一些人可能专门去做恶意上传。

违规内容对于普通受众尤其是三观还未确立的青少年来说负面影响巨大。希望这百条红线能真正地让短视频行业彻底干净，还大众一个清洁的网络环境！

点击开启一站式内容审核：

https://www.qiniu.com/products/censor