聚焦线上业务内容监管，数美科技怎么样以AI风控普惠社交软件

《国家行业发展“十三五”规划》明确指出，要通过推进“互联网+”创业创新、数字创意在社交网络中的应用落地，加快重点领域融合，大力发展虚拟社交等娱乐营销新模式，建设数字创意生态体系。由此，“互联网+”社交应用新模式正式崛起，这也使得视频直播、虚拟交友等多样化社交软件大批量上线。

其中，社交软件的多元化是该行业生态体系的营销核心。不局限在社交软件本身的多元化玩法，还涉及用户群体和社交内容的多元化，例如视频、音频、表情包等聊天模式。随着这类社交软件下载量的不断增长，活跃用户不断积累，同样也伴随着较高程度地各种在线业务风险。

针对黑产动向，做到事前拦截与内容监管

据2020年社交网络软件行业调研分析报告表示，社交网络软件行业市场规模达1200亿，客户人群规模0.6亿，用量分析9000万，年复合增长率达14%。由此可见，社交网络软件行业的覆盖规模大，服务用户占比高，庞大的市场规模表现出来的商机需求较为可观。

随着国家政策的进一步利好，社交软件也在针对不同的用户需求创新更迭，对于不同的需求场景，不断优化升级自身的产品和服务质量。但值得注意的是，在社交软件多元化发展态势下，同样凸显出一些令社交软件平台无可避免的痛点问题。

当前，社交软件主要存在内容违规、广告导流、网络诈骗、影响用户体验等问题。究其原因，除了用户自身可能会涉及到的内容违规，更多的是由于黑产活跃，多渠道薅羊毛吸金……从而造成一系列风控漏洞，严重影响到社交软件的正常运行与商业价值，并带来巨大的经济利益损失。

数美科技五年来一直致力于为全球客户提供专业的AI业务风控服务，目前已服务全球超过1000家客户，除了社交领域，还覆盖了银行、保险、航旅、电商、视频、教育、游戏等领域，并保持每年业绩300%以上的增长，老客户续约金额率超过130%。

寻医先问诊，结合当前社交软件的运营现状与现存问题，数美科技黑产研究院发现了以下问题：

批量养号：虚拟机进行大量账号注册，在未经用户允许，大量、重复发送广告/产品推销信息给用户。

内容违规：聊天窗口、头像、朋友圈、直播的发布内容（图片、视频、音频）涉及违规，影响用户体验感；

广告导流：存在信息泄露，使用户个人信息成为不法分子实施诈骗的有效数据，黑产通过“引流脚本+站街软件+账号倒卖”一条龙服务，从中谋利；

网络诈骗：针对有一定经济基础和情感需求的目标用户群体，黑产通过频繁聊天、画饼诱惑等手法进行诱骗。

从本质上看，这些问题的来源，主要是由于黑产为了一己私欲，在社交软件平台上的高频活跃，以成熟完备的明确分工利用多种手段窃取商业利益，以加速软件平台的收益下降来谋取个人收入的快速增长。

经过了深入研究，数美科技黑产研究院还发现，黑产当前采取7*24小时实时盯守，且已进行全球布局进行欺诈活动，人数上也正在高速增长。《电子商务生态安全白皮书》显示，据测算，黑产从业人数达150万人，市场规模多达千亿级别。因此，黑产的大批量作案行为理应受到社交软件的正视与关注。

 

如何解决以上问题？数美科技认为，在社交软件平台上，无论是用户APP启动、注册、登录环节，或者在广场动态和聊天窗口的图片、音频、视频等内容生产场景下，对于在社交软件平台人力审核无法监管的方面，都可以通过AI部署设备风险SDK、验证码等防御机制，在事前实现智能拦截与实时提醒。

同时，通过布局全栈式实时智能风控引擎-天网、和全栈式智能内容识别引擎-天净便可以高效解决类似风控问题。数美科技的优势在于，在用户无感知的情况下，加强在软件风控业务环节的层层关卡，重点打击黑产的一系列违规行为，可以维护好社交软件运营的正常秩序，为用户带来更好的社交体验。

应用AI智能风控引擎，全面保障线上社交内容安全

归根结底，如何良性发展行业服务新业态，实现社交网络软件行业向更高质量、更加公平的方向迈进，是一个值得深思的问题。

近年来，随着青少年对社交软件的愈加青睐，“Z时代”人群对社交需求、娱乐需求、以及消费需求高强度的变现能力，燃起了后浪们在泛娱乐平台的果敢创新。所以社交软件上的UGC内容安全，是社交行业首要关注的重点之一。

因此，针对目标客户的监管需求，从场景应用端切入，数美科技基于国内领先的AI技术（GAN、TDNN、LSTM、RNN等）和全球SaaS风控服务网络，深度融合全栈式模型体系，实时防御和精准识别，为社交软件平台提供全面安全的高系数风控解决方案。

在风控能力上，全球SaaS AI风险防御网络日识别并拦截业务风险行为超过1亿次。数据量上看，当前数美全球反欺诈服务已在全球实现6个服务集群，累计保护全球用户30亿，每日拦截风险行为1.1亿，累计设备覆盖量50亿，每日反欺诈访问量100亿，累计访问量6万亿。

在业务合作上，数美科技坚持以客户需求为先，通过自研AI技术全面布局国内、海外业务，不断突破现有服务用户亿级数量。

首先，在软件平台用户注册和登录的位置，利用数美天网-全栈式实时智能风控引擎进行监管。可以做到在事前发现黑产，提高黑产囤号养号的成本，日均拦截账号1000个。

在技术优势上，针对APP启动、用户注册、登录再到具体的社交业务行为，该全流程场景下，数美科技采用了全路径实时布控策略。

此外，数美科技在核心技术上还实现了策略全流程进化闭环。如攻防研究（黑产情报分析与路径复现）、策略设计（规律发现特征提取）、策略研发（数据挖掘模型训练）、策略验证（离线验证线上灰度验证）、策略上线（秒级生效）、策略运营（拦截监测预警与案例抽样检测）、案例分析（漏杀与误杀案例分析）的全流策略闭环。

例如，在用户注册端，一旦数据接入注册接口，可以产生两种审核方式。一种是正常用户的放行，另一种便是对于高风险的账号，拒绝放行并推荐给人工审核，这类账号一旦有批量、重复发布广告信息的行为，便可立即封号。

同时，基于手机号、设备、IP建立时域关联网络，可以利用社群发现、风险传播等无监督算法发现黑产团伙，识别潜在新型欺诈威胁。而通过建立数据模型（风险数据、RNN时序评分模型、社群发现模型）用账号风险等级优化产品运营策略，可以提升活动ROI。

其次，在用户私聊、广场动态、视频匹配前置截帧等场景下，可利用数美天净-智能识别进行拦截，减少人工审核压力，可降低人工审核成本80%，提高出贴效率，合规内容提高至99.9%，明显提升用户体验。

从朋友圈/广场动态上的图片识别来看，文本内容具有多样性、复杂性等特点，从基础的变体字、谐音字、形容词代称，到上万种领导人名及虚假广告变体，不仅数量上卷帙浩繁，而且违规形式诡谲多变，隐蔽性也较强，对内容识别系统的“聪明”程度提出了非常大的挑战，但是数美科技都可以一一解决。

在技术实力上，数美天净智能文本识别引擎，基于对自然语言的深入研究，结合深度学习的机器学习技术，即fast text和NLP语义分析、HMM的智能分词，对千亿级样本库、百万级违规词库、上万种变体类型进行多模型训练。从而达到内容、行为、画像多维度协同AI，精准有效识别违规内容。

同时，数美科技还可实时动态监测违规态势，实现违规词库秒级更新、增量模型小时级更新，以应对网络舆情随时可能新增的内容违规风险。并帮助大型电商社交平台拒绝文本违规信息达444万次、拒绝图片违规信息105万次。

再次，在一对一语音匹配、群聊房等场景中，可利用数美音频流实时监测；在一对一视频匹配等场景下，可采用数美视频流的实时监测服务。以此可以有效规避社交软件在人审无法完全覆盖的情境下，出现违规内容不可控，导致软件下架的风险。同时，通过机审+审核配置策略的方式，日均可过滤音频3万小时、视频7000小时，切实优化用户体验感。

在核心优势上，通过高度融合深度学习技术，数美科技还可以对原始音频，利用语音信号处理中时延神经网络（TDNN）与长短期记忆网络（LSTM）进行降噪降混响，并采用智能语音识别引擎、声纹识别引擎、音色分类引擎来得出识别结果以及性别标签、音色标签和声纹信息。

通过以上数美AI业务风控整体解决方案的实施，可以大力提升社交软件的内容安全防护等级，并助力客户内容风控系统高效工作，进而有效节约人力成本。