算法推荐技术合规要点梳理与备案指引

2022年3月1日，国家互联网信息办公室、工业和信息化部、公安部以及国家市场监督管理总局联合发布的《互联网信息服务算法推荐管理规定》（以下简称“《规定》”）正式生效。同日，互联网信息服务算法备案系统正式上线运行。

下文将简述算法推荐技术合规要点以及备案指引。

一、背景

《互联网信息服务算法推荐管理规定》发布以前，国内算法规制初见端倪，例如，《电子商务法》第18条首次规定了禁止“大数据杀熟”；《个人信息保护法》第24条参照欧盟GDPR将反自动化决策权纳入个人信息保护体系；《国务院反垄断委员会关于平台经济领域的反垄断指南》首次明确规制“算法共谋”导致的垄断行为，具体法条如下：

法律名称	法条
《电子商务法》	第十八条 电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的，应当同时向该消费者提供不针对其个人特征的选项，尊重和平等保护消费者合法权益。
《个人信息保护法》	第二十四条个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。 通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。 通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。
《国务院反垄断委员会关于平台经济领域的反垄断指南》	第五条 平台经济领域垄断协议是指经营者排除、限制竞争的协议、决定或者其他协同行为。协议、决定可以是书面、口头等形式。其他协同行为是指经营者虽未明确订立协议或者决定，但通过数据、算法、平台规则或者其他方式实质上存在协调一致的行为，有关经营者基于独立意思表示所作出的价格跟随等平行行为除外。 ……

此外，2021年下半年，《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》发布，意见明确指出“网络餐饮平台要发挥数据技术优势，进一步完善订单分派机制，优化外卖送餐员往返路线，降低劳动强度”。随后，美团外卖平台公开骑手配送时间算法，并积极推进落实“算法取中”。在此背景下，《规定》应运而生。

二、何为算法推荐技术

根据《规定》第二条，该规定适用于在中华人民共和国境内应用算法推荐技术提供互联网信息服务的行为。

算法推荐技术指生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术。

该《规定》未对算法推荐技术明确定义，仅以枚举法的方式列举了哪些算法技术可能构成算法推荐技术。参考《互联网信息服务深度合成管理规定（征求意见稿）》第2条，生成合成类算法是利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。综合“深度合成”定义及《规定》全文，我们理解的《规定》规制的算法推荐技术所具备的共性如下：

1、基于深度学习，即程序输出结果与用户行为紧密结合，算法设计者也无法准确预测程序输出结果；

2、对呈现给用户的信息进行了筛选与选择；

3、这些算法行为会影响用户或他人权益（例如可能带来错误信息，引诱消费等）。

我们结合公开资料，将《规定》明确提及的算法概念、应用场景及合规要求总结如下：

算法类型	定义	场景	合规要求
生成合成类	指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术	自动生成文章、视频、音乐等内容； VR技术（虚拟人、虚拟场景等）	《网络信息内容生态治理规定》第23条，不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。
			《网络音视频信息服务管理规定》第13条，基于深度学习、虚拟现实等新技术新应用的应进行安全评估、显著标识非真实视频、发现违规内容及时停止传输并上报有关部门，且不得传播虚假信息。
			《民法典》第1019及1023条，不得利用信息技术手段伪造等方式侵害他人的肖像权及声音有关权益。
			《规定》第13条，不得生成合成虚假新闻信息。
			《互联网信息服务深度合成管理规定（征求意见稿）》进行全面规制。
个性化推送类	利用用户属性及行为数据实现个性化分发的算法	短视频、音乐等网站的内容推送；电商商品定向推送；广告精准营销	《电子商务法》第18条规定，提供不针对消费者个人的选项。
			《App违法违规收集使用个人信息行为认定方法》规定，提供非定向推送的选项，且不得仅以定向推送信息为由，强制要求用户同意收集个人信息。
			《规定》第10条，应加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。
			《网络数据安全管理条例（征求意见稿）》第49条，利用个性化推送向用户提供个人信息时，应取得个人的单独同意；设置便于用户访问、重置、关闭个性化推荐的选项；允许个人删除定向推送信息收集产生的个人信息。
排序精选类	以客观或主观因素为依据，设置、调整网络信息内容排列顺序的算法	社交、新闻、音乐、短视频等首页推荐内容（如微博热搜等）；电商平台热销商品榜单等	《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》第9、10条，《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第6条，人民法院依据民法典第一千一百九十七条认定网络服务提供者是否“知道或者应当知道”，应当综合考虑下列因素：（一）网络服务提供者是否以人工或者自动方式对侵权网络信息以推荐、排名、选择、编辑、整理、修改等方式作出处理；……即应用排序精选类算法的平台将无法适用避风港原则。
			《规定》第10、14条规定，应建立完善人工干预和用户自主选择机制；不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。此外，根据《规定》第24条，该类算法可能需要至算法平台备案。
检索过滤类	包括检索算法与过滤算法，其中检索算法是按照输入条件或匹配需求匹配相应网络信息内容的算法；过滤算法是指按照给定的条件识别并筛选相应网络信息内容的算法	搜索引擎等使用的去重、垃圾信息过滤及关联推荐算法	《互联网信息搜索服务管理规定》第11条规定， 如涉及付费搜索信息服务，应当依法查验客户有关资质，明确付费搜索信息页面比例上限，显著区分付费搜索与自然搜索结果。
			《规定》第12条规定，综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。
调度决策类	自动或辅助生成供需匹配、供需调节、路径规划等决策调度结果，或提供调度决策依据的算法	外卖订单配送、最优驾驶路线规划、打车平台自动接单等	《个人信息保护法》第24条规定，保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇； 通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。
			《国务院反垄断委员会关于平台经济领域的反垄断指南》规定，禁止通过算法共谋，实施反垄断行为。
			《规定》第18-20条规定，算法决策应保障弱势群体权益。

三、合规要点

（一）算法安全责任

算法安全合规维度	注意事项
算法机制机理审核	1、不得危害国家安全或公共利益，扰乱经济秩序和社会秩序，侵犯他人合法权益；不得利用算法推荐服务传播法律、行政法规禁止的信息；不得侵害弱势群体利益等 2、定期审核、评估、验证算法机制机理、模型、数据和应用结果
科技伦理审查	1、目前对于科技伦理暂无系统性规定，企业可参照《关于加强科技伦理治理的指导意见（征求意见稿）》明确的科技伦理治理的基本原则，并结合自身商业模式制定科技伦理审查规则，该等基本原则如下： （1）增进人类福祉 （2）尊重生命权利 （3）坚持公平公正 （4）合理控制风险 （5）保持公开透明
用户注册	除满足现有法律要求的实名注册外，算法推荐技术还应： 1、不得利用算法技术虚假注册 2、不得利用算法技术交易账户或操纵账户
信息发布审核	参考《网络信息内容生态治理规定》等相关规定，落实内容治理义务。此外，《规定》还对算法推荐技术的信息发布审核做出额外要求： 1、健全用于识别违法和不良信息的特征库 2、发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输 3、发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告
数据安全和个人信息保护	参照《个人信息安全法》、《网络安全法》、《数据安全法》等相关法律，全面落实数据合规义务
反电信网络诈骗	依法开展涉电信网络诈骗信息的监测、识别和处置
安全评估监测	加强信息安全管理
安全事件应急处置	1、制定应急处理预案 2、进行安全事件应急演练 3、如发生安全事件按照法律规定及时上报主管部门
算法推荐服务规则	1、公示算法推荐服务的基本原理、目的意图和主要运行机制 2、提供便捷关闭算法服务的选项 3、提供选择或删除用于算法推荐服务的针对个人特征的用户标签的功能
市场公平竞争机制	不得利用“算法共谋”方式形成垄断，排除市场竞争，遵循反垄断、反不正当竞争相关法律规定

（二）用户权益保障责任

用户权益保障合规要点	注意事项
基本要求	1、告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等 2、供不针对其个人特征的选项，并提供关闭渠道 3、不得滥用大数据分析等技术手段，基于用户消费记录、偏好等设置不公平的交易条件，侵犯用户合法权益
劳动者权益保护机制	建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法
未成年人权益保护机制	结合规定及《未成年人保护法》、《儿童个人信息网络保护规定》，针对未成年保护应注意以下合规事项 1、不得收集以及处理与提供的服务无关的未成年个人信息 2、儿童个人信息发生或者可能发生泄露、毁损、丢失的，应当立即启动应急预案，采取补救措施 3、不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息 4、不得利用算法推荐服务诱导未成年人沉迷网络
老年人权益保护机制	1、应当充分考虑老年人出行、就医、消费、办事等需求，提供智能化适老服务 2、依法开展涉电信网络诈骗信息的监测、识别和处置

四、系统备案

根据《规定》第24条，具有舆论属性或者社会动员能力的算法推荐技术服务提供者应当履行备案手续。备案主体应通过互联网信息服务算法备案系统（官方网址为 https://beian.cac.gov.cn）履行备案手续，填报信息包括三部分，分别是算法主体信息、算法信息、产品及功能信息。

（一）算法主体信息

企业在进行注册账号时，需要特别注意同一个备案主体只需注册一个账号。主体信息填报：算法备案填报人员应按照备案主体的实际情况准确填写主体基本信息、证件信息、法定代表人信息、算法安全责任人信息等，并下载附件模板，严格按照模板要求填写并上传。

（二）算法信息

算法信息填报分为四个步骤：一是填写算法基础属性信息，值得注意的是，在填写算法基础信息时，企业需上传算法自评估报告及拟公示内容。二是填写算法详细属性信息，三是填写产品及功能信息，四是确认提交。

（三）产品及功能信息

产品及功能信息填报：根据实际情况填报产品及功能信息。需完成三个步骤：一是添加产品信息，二是添加产品功能访问路径，三是添加路径下的功能信息。

五、总结与展望

随着《个人信息保护法》、《数据安全法》等数据保护层面的相关法律初步出台，我国个人信息与数据保护法律体系初步建成。监管部门、企业等正积极推动数据合法流动。在此背景下，算法治理首次正式纳入监管范畴，与此前的“数据合规”相似，企业（特别是互联网企业）又需再次摸石过河，积极采取与现行监管相匹配的合规措施。在此过程中，我们也将努力协助，探索与企业经营模式相匹配的合规之路。

参考：

【1】网信中国：《互联网信息服务算法推荐管理规定》系列专家解读（一）

【2】国家互联网信息办公室：关于《互联网信息服务深度合成管理规定（征求意见稿）》公开征求意见的通知

【3】法治网：算法面临更强监管 禁止“大数据杀熟”立法进程加快反杀“大数据杀熟”面临认定难举证难等困境

【4】新华社：聚焦《互联网信息服务算法推荐管理规定》五大看点

【5】OECD：《Algorithms and collusion: Competition policy in the digital age》

【6】国务院反垄断委员会：《国务院反垄断委员会关于平台经济领域的反垄断指南》

【7】人力资源社会保障部 国家发展改革委 交通运输部 应急部 市场监管总局 国家医保局 最高人民法院 全国总工会：关于维护新就业形态劳动者劳动保障权益的指导意见

【8】中国互联网络信息中心（CNNIC）：第49次《中国互联网络发展状况统计报告》

【10】国家统计局：《第七次全国人口普查主要数据情况》