如何设计短视频人工审核功能模型-谛听安全运营心得

审核视频需要一个任务分配机制，按量或地区分配视频。考虑到视频每时每刻都在生成，这就要求任务分配机制有一个定时器。当视频积累到一定数量或每隔一段时间自动分配任务进行人工审核时，人工优先发送较早的视频。

还有各种人工紧急情况，如离职、生病请假，导致任务无法完成时，该怎么办？视频不能不审核，这就需要一个任务，然后分配功能，以确保视频在同一天尽可能审核。

任务分配完了需要审核视频，这时视频评分机制就开始作用。视频评分机制分为两种，一种是连续评为优秀视频发布者的视频系统自动通过审核。

这个优秀的标准可以是极其严苛的，比如无污点或达到某种数目的点赞、评论和关注才可以评级优，也可以是发布的内容和评论、点赞的内容只要没有污点即可评优。这样做的主要目的是提高进审效率，因为人工的效率真的很慢。

另外一种的就是人工评分机制，评分标准暂时分为低俗、色情、正常。低俗色情直接删除反馈给出版商，记录用户数据、操作人员、原因和时间，以便每次审核都能找到。同时，它也可以用来计算应用程序中发送的视频类型，用于年度总结和反思。

对于人工来说每日都在审核大量视频，百密总有一疏，漏网之鱼也不少，如何在事情没有传播开来就扼杀掉，这就需要举报机制。举报机制分等级，等级高的直接“百里加急件”送给人工复审，等级低的都是小打小闹，市场最常用的手段是系统自动限流可以参考使用，当然还有其他的。报告等级可根据报告数量、报告时选择的报告原因等级或两个结合使用。