出海风景万般好，谨防被困“文化”礁。关注【融云全球互联网通信云】了解更多
近期，位列东南亚最大在线购物网站之一的出海电商引起了轩然大波。该平台在广告中启用了一位风评复杂的跨性别网红和一名坐轮椅的女士作为广告主角，被认为映射常年坐轮椅的泰国王室成员和歧视残疾人。
尽管平台已经下架广告并郑重道歉，但感到被伤害的人们却并不买账。广告风波不仅惊动了泰国总理，导致平台遭军队抵制，被政府部门起诉，甚至引来了中国驻泰国大使馆官方回应。
正如泰国政府发言人针对此事件强调的，“内容创作者，应该小心他们在网上发布的内容。”本应在审核中过滤出的风险内容因文化差异而不查，未曾想引起如此巨浪。
而出海企业都会面临这样的“水土不服”，内容审核成为不容忽视的环节。
作为全球 30 万+ App 的通信云伙伴，融云不仅以遍布全球 233 个国家和地区的通信网（SD-CAN）和自研的最优链路调度算法为基础，为用户提供安全、可靠的通信云服务，还联合专业合作伙伴打造出海内容审核解决方案，为全球社交、泛娱乐应用提供多语言智能内容风控服务。
海外掘金第一关克服文化上的“水土不服”
对于出海企业而言，对当地文化的敏感和知识储备，是控制风险的必要条件。在涵盖多个宗教文化的东南亚地区，更需要谨慎，尤其是在社交领域。随着行业迅速发展，社交产品呈现出数量大、种类多、形态丰富、内容多元等特点，流量和利益激增的同时，也伴随着一系列监管风险，内容安全的预防、控制和清理，各个环节都需要严格把关。
社交产品对内容审核能力有着更高要求和更大挑战，主要表现在：
1. 各国监管要求不同的复杂性
对于海外市场来说，法律、宗教、文化、语言等复杂因素影响下，出海 App 的合规性既要满足当地法律，还要符合当地的人文习性，这给内容审核带来了新的挑战。
拿欧美市场来说，互联网内容采用严格的分级制度，对 3 岁、13 岁、17 岁等不同年龄段的未成年人有严格的保护策略，并且对种族言论是明令禁止的；在中东地区，十字架、猪等涉及宗教的元素极为敏感；在日本和泰国，要避免发表对天皇制和皇室不满的言论，韩国对朝鲜政府的涉政言论在当地也是被严格审查的。
2. 保护品牌形象的必要性
在线上社交成为主流的今天，如何给用户营造一个干净、健康的社交环境，是影响到品牌形象的头等大事，进而影响到 App 的成功。
经调查显示，用户在健康的环境中参与互动后，留存率会增加 3 倍，会话时长增加 60%，而在受到网络骚扰后，15% 的用户会转向其他社交平台。
国别、场景参差各异海外内容风险种类多样，细节繁杂
文化的差异体现在方方面面，比如，东南亚国家的笑点与国内有很大不同，在氛围上，他们的直播会显得更加“喧闹”。而在内容审核方面，除了不同地域带来的差异，即便是同一地区，不同的应用场景也面临极大的审核差异。
比如，在社交场景中，Kill、Shoot 等字眼是不被允许的，要被识别及规避；而它们出现在游戏类场景中，则很合理。
再比如，在游戏昵称中，企业一般会对 Admin、Operator 等词汇的使用设定特别规则，因为担心用户借此伪装成软件运营方，带来欺诈等风险；而它们出现在聊天中则不必特别注意。
这就要求内容审核服务专业而全面，对于海外社交属性的 App 来说，内容的风险种类主要包括涉黄、涉政、涉毒、涉暴、种族、歧视、宗教、未成年人、辱骂、拉人广告等，以上都是各国网络监管部门重点关注的对象。
聚焦海外社交专业、全面的风控策略
融云在 IM 即时通讯和 RTC 实时音视频的双核心能力之上，增加 X 元素 —— 通信周边能力的总和，全效赋能开发者。而“审核”就是融云重点布局的 X 能力之一。
在这方面，融云和业内领先的专业伙伴合作，帮助社交场景下的开发者，精准识别即时通讯、实时音视频业务中的文本、图片、音频、视频的黄、暴、恐等违规内容，满足全场景需求；通过数字化的方式，提供审核、打标、自定义配置等服务来满足企业需求，打造业务、内容、用户三重安全保障。
（内容审核检测类别，点击查看大图）
- 支持中文(简体)、中文(繁体)、英文、日语、韩语、泰语、越南语、马来语、印尼语、印地语（拉丁印地语）、 菲律宾语、阿拉伯语、土耳其语、俄语、德语、法语、意大利语、西班牙语、葡萄牙语、瑞典语、波兰语、希腊语、挪威语、荷兰语 24 种标准语言的文本及音频审核。
- 支持中东埃及、沙姆、北非、海湾、苏丹 5 种本土方言以及印度地区孟加拉语、乌尔都语、马拉地语、阿萨姆语的文本检测。
1. 文本审核
全球化部署文本审核，审核结果在 100ms 以内响应，可根据海外不同国家的审核标准制定策略，支持标准语、方言、俚语、缩略语、社交隐晦语等表述，可结合上下文语义识别避免误检，且紧跟各国最新政策、时政新闻，不断更新算法模型。
（文本审核示例）
2. 图片审核
使用先进的目标检测及内容识别算法，实时检测图片中的违规内容，支持卡通场景和真人场景识别，支持“画中画”、头像小图、模糊图片等复杂场景，对光线遮挡、角度偏移等有较强检测能力。
（图片审核示例）
3. 音频审核
专注于社交等场景，可精准识别并审核 23 种语言，利用 ASR+文本模型以及声纹模型综合判断涉黄、辱骂、暴恐、涉政、拉人广告、仇恨言论、未成年人等内容，有效抵御音频内容违规风险，准确率达到 95% 以上。
（音频审核适用场景）
4. 视频审核
精准识别各类场景下的涉黄、涉政、暴恐、广告等视频内容，抵御违规风险，保障视频内容安全合规，支持智能定义抽帧策略，在保证检测准确率的情况下，提升审核效率，节约成本，融合 EAST、CRNN、efficient-net、Resnet 等模型，避免单一模型的误杀和漏检，识别准确率高。
5. 多语言未成年保护策略
对侵害未成年的内容进行识别检测是融云内容审核方案中海外审核的一大特色。
在用户方面，可对未成年的年龄、人脸以及音色进行识别；
在内容方面，阻断未成年人色情低俗、血腥暴力、思想毒害、个人信息等敏感内容，帮助平台建立未成年人专属的智能内容推荐方案，通过多方面策略保护未成年人隐私。
（未成年保护策略）
实践案例
国内某社交 App，使用了融云完整的国内审核服务，当业务步入全球发展阶段，仅国内审核不足以支撑复杂的场景需求，于是开通了海外文本+视频+图片审核服务，一举解决了三大痛点：
❓在用户聊天过程中，结合语种、语境、变体等来综合判断并屏蔽敏感词。
☑方案：多语言文本审核，智能屏蔽敏感词。
❓对视频进行涉黄、涉暴识别，特别是针对画中画色情，图片边缘、模糊光线下敏感部位暴露等难识别的场景。
☑方案：通过自动截帧-送审-图片审核服务，识别敏感内容；其中，图片审核服务通过针对性数据增强解决复杂场景难题。
❓在图片识别中，除去国内的涉黄、涉暴、涉政等，有些国家还会对吐舌图片，吸烟、脚部图片有要求，并且识别复杂场景，如长图、海报、画中画、漫画等。
☑方案：图片审核服务启用吐舌、脚部、亲吻、图文、涉黄、涉政等细粒度模型识别敏感图片。
对于社交应用来说，内容安全问题在任何时候都属于怎么强调都不为过的生死线问题。融云携手业内专业平台，助力出海开发者全球通信顺畅无忧，面向广阔市场，把好“安全关卡”。