一文解锁BILIBILI、ACFUN等弹幕网站是如何审核视频

欢迎访问网易云社区，了解更多网易技术产品运营经验。

人工审核对于A站和B站都是很重要的。

AcFun稿件审核通行标准（V1.1） 表明，要审核的东西非常多，除了内容本身的合规性、调性，还有画质音质、撞车问题、视频信息问题等，而A站也确实采用人工审核。

B站审核情况参考：从B站、爱奇艺、映客的IPO上市，看国内视频公司的内容审核现状

再说说视频网站审查内容的一般思路：

视频网站的内容审核工作主要有两个目的，一是合规，二是版权。其中合规问题涉及面更广，包括色情、暴恐、涉政等。当然内容还要符合商业价值的需求，或者说合乎网站定位，比如广告、谩骂等就很影响用户体验，影响商业变现。视频网站通常都通过技术手段与人工审核相结合来完成审核工作，不管是先行过滤还是标注某些内容让审核人员重点关注，审核系统都不可或缺。非直播内容，都是先审后发。另外，举报通道和快速处理也是必备的。

视频审核是一个难点，但视频网站要审核的不只是视频，还包括用户头像、昵称、签名、标题、简介、封面、标签、评论、弹幕、站内信等各种用户可以自行输入的图像/文本内容。这项工作如此复杂，审核系统需要全能、有策略、有进步，才能保证审核效率及准确性。

全能就是要通过各种算法搞定文本、图像、音频、视频等不同内容介质，以及色情、暴力等不同违规类型。这一点，人工智能的进展提供了有力的武器。参考：人工智能是如何识别一张黄图的？

策略不仅是通过正则表达式、智能算法对付内容本身，还要通过IP、终端、邮箱、手机号等信息识别用户的危险程度，进而做出不同处理，比如限制发布时间间隔。注意人工智能可以依靠，不能依赖。

进步是因为黑灰产总会设法试探并突破现有系统的防御，比如曾有一些小语种、伪低幼的攻击绕过 YouTube 审核的案例，运营人员和算法工程师需要合作不断去完善系统敏感词库、逻辑及算法。

总之，成熟的审核系统，成熟的审核团队，应用场景的覆盖，都是身经百战练成的。

网易云易盾智能反垃圾服务，基于网易20年专业的反垃圾经验，以及积累的亿级别的海量数据，为客户提供极速智能的广告过滤、智能鉴黄、暴恐识别、涉政检测云服务，助力打造互联网纯净内容生态。欢迎免费试用。

文章来源： 网易云社区