从隐私悖论到隐私工程

【引子】隐私和安全是计算机领域永恒的主题之一。大模型本身是一种先进的生产力，它在很大程度上能够推进技术的进步和应用范围的拓展。然而，与此同时，大模型的应用也可能带来隐私和安全的挑战。例如，联邦学习与大模型的结合目前还面临着许多挑战，包括安全威胁及防御、隐私威胁与增强、效率问题以及处理非独立同分布（Non-IID）数据等问题。这些问题可能会对用户的隐私造成潜在的威胁。

重要的一点是如何利用大模型来“对抗”自身的风险。例如，我们可以利用大模型对生成的内容进行评估，或者通过隐私计算中的随机性、匿名化等方法来优化大模型的数据分层，从而提升隐私计算本身的性能。

让我们回到隐私本身， 数据只有交换才会产生价值，而隐私数据希望得到保护，不希望用于交换，于是产生了所谓的“隐私”悖论。

1.关于隐私悖论

隐私悖论（Privacy Paradox）是一个在现代社会中广泛存在的现象，它揭示了人们在面对隐私问题时的矛盾心理。具体来说，隐私悖论指的是隐私态度与行为的分歧，即用户普遍担心自己的隐私信息遭受泄露，同时又愿意披露自己的隐私。

这种现象的出现，反映了现代社会中人们对隐私的复杂看法和行为模式。一方面，随着信息技术的发展，人们的生活越来越依赖于网络和数字设备，这使得个人信息的收集、存储和使用变得更加容易。因此，人们对于自己的隐私信息被滥用或泄露的担忧也随之增加。他们担心自己的个人信息可能会被用于不法目的，如诈骗、骚扰甚至是身份盗窃等。

另一方面，尽管人们对隐私保护有着高度的关注和担忧，但他们在实际行动中却往往选择忽视这些风险。他们可能认为，只要能够获得更好的服务或产品，个人信息的披露是可以接受的。此外，一些人可能也缺乏足够的知识和技能来保护自己的隐私，或者他们认为隐私保护需要付出额外的努力和成本，因此选择“放弃”这部分权利。

隐私悖论的研究最初发表于医学领域。早在1998年，分析人员进行了一项实验，要求患者允许使用或发表病患临床材料，但患者不希望将“隐私”信息公之于众，因此受到患者的强烈抵制。有趣的是，当研究者给出一份权威的解释信息后，患者们的态度发生了转变。研究者认为合理的解释或信任能够使个体做出看起来不那么合理的行为，例如暴露隐私。

随后，研究逐渐延伸到消费行为领域。研究人员对使用优惠券的消费者进行访谈后发现，尽管消费者对于他们的隐私信息被收集表现出很强的担忧，但仍然会为了能够使用优惠券而交换个人信息。如今，某信和某宝也是如此。相较于未来的风险，人们更关注目前的收益，因此，人们会因为对未来收益的不确定性而不会采取严格的隐私保护。

当前的隐私悖论研究体系如下所示：

当年，百度CEO李彦宏曾表示：“中国人不注重隐私，如果可以，他们更愿意用隐私换取便利。”这句话引发了学者对数字化时代公民隐私意识的思考。这是因为他们在进行隐私披露时，会综合考虑隐私披露的风险与预期收益。当预期收益大于风险时，他们更倾向于选择披露隐私。这在一定程度上解释了隐私悖论现象。

隐私计算模型是当下隐私研究中最常用的模型。个体的隐私计算过程解释了隐私关注与隐私行为之间出现的矛盾行为，即用户在有意识地权衡隐私披露的预期损失和潜在收益后作出隐私披露决策。而隐私保护也需要从工程方面系统地实现，于是有了隐私设计和隐私工程的出现。

2.隐私设计

隐私设计理念提出将隐私计算技术的应用扩展为一套完整的隐私设计框架，主动将隐私保护嵌入信息技术、网络基础设施和商业实践中。

隐私设计的原则如下所示：

隐私设计理念及其原则逐渐被各国监管机构和国际组织所认可，并成为推动隐私保护发展的重要理论基础。例如，2018年生效的欧盟《通用数据保护条例》（General Data Protection Regulation，“GDPR”）将隐私设计理念纳入第二十条“Data Protection by Design and by Default”中。

隐私设计的产生和发展标志着一种新的隐私保护范式的兴起，为更完善的隐私保护提供了新思路。

3.隐私工程

将隐私设计的原则具体化，形成一套可以直接指导实际研发并解决特定领域不同隐私需求的方法论，就形成了隐私工程（Privacy Engineering）。

我国于2022年正式发布了《个人信息安全工程指南》。该标准将个人信息安全工程即“隐私工程”定义为“将个人信息安全原则和要求融入产品服务规划、建设的每个阶段，使个人信息安全要求在产品服务中有效落实的工程化过程”。一般地，隐私工程定义为“将隐私问题纳入系统和软件工程生命周期过程的工程实践”。

隐私工程的目标与《个保法》中设计的隐私原则映射关系如下图所示：

隐私工程的主要内容包括：

• 组织人员：从组织架构、工作职责、意识技能等方面，进行人才资源管理、沟通机制建立、隐私工程技能提升，以此构建让隐私工程顺利推行的组织根基。

• 技术工具：以技术工具的方式在产品/服务的数据处理活动中落地个人信息保护要求，或在内部管理中使用技术工具识别、管理个人信息保护风险。

• 文档管理：隐私工程落地实施的规划、执行方案、运行记录、改进跟踪均以文档方式进行记录并体系化管理。

• 知识管理：识别隐私工程知识库的组成元素、形成可用的隐私工程知识库并跟踪分析其使用情况。

• 系统开发生命周期隐私管理：需求、设计、开发、测试和部署软件开发过程中嵌入个人信息保护要求，参考《个人信息安全工程指南》的内容。

• 第三方合作管理：在第三方的准入筛选、合同签订、跟踪监测、风险评估和退出等方面考虑隐私保护问题并形成全流程的管理机制。

• 个人权利保障：针对用户个人信息权利的授权、个性化、权利请求响应和处理等方面形成体系化的控制策略和流程。

• 隐私安全事件管理：制定隐私安全应急预案并定期演练，建立事件的监测、处置、报告和通知流程。

• 隐私风险管理：建立隐私风险管理体系，对隐私风险的识别、分析、评价、处置和监测形成标准化管理机制和运营系统。

隐私工程的实现流程覆盖了系统的全生命周期，如下所示：

4.隐私工程实践的两个示例

OPPO作为手机厂商及互联网应用平台方，根据自身业务特点逐步建立了一套隐私工程的实践。在体系建设过程中，关注消费者、业务部门、三方合作方、监管部门等几个关联方的安全隐私需求。通过调研行业动态及消费者需求，以培训与宣传提升人员的安全能力与意识，通过产品安全隐私特性的打造来提升产品的安全隐私体验。最后，OPPO还建立了检测与评价机制，对安全体系进行及时评测，发现问题并及时纠正和改进，从而建立一套自证合规的体系。

AmberGroup的数据安全与隐私保护框架基于NIST隐私框架，融合了数据安全能力成熟度模型要求和信息安全与隐私信息管理体系，并结合了云原生DLP技术能力，形成了具有Web3和数字资产领域隐私保护特色的综合性框架。该框架共分为5个模块，包括识别、治理、保护、交互和内控。通过将隐私工程嵌入到DevSecOps的产品研发流程中，使产品研发过程尽早考虑隐私保护，达到“安全与隐私左移”的目标，以防范组织内部数据滥用、数据误用、数据泄漏等隐私合规风险。

5.小结

隐私悖论是一个有趣的现象。通过良好的隐私设计实践，企业可以获得更多客户的青睐，增加品牌效应，进而实现营收增长。当企业通过隐私工程提供高品质的产品和服务时，合规纠纷会减少，企业的信誉度会提升。隐私工程将隐私保护的需求整合到软件开发生命周期以及组织和技术管理流程中，是一种有机会发挥更大价值的工程实践。

【参考资料与关联阅读】

• Ann Cavoukian：《Privacy by Design. The 7 Foundational Principles》

• 刘婷，邓胜利：《国外隐私悖论研究综述》

• 谢兴政，蔡念中，黄志铭，等：《社交媒体用户隐私悖论行为影响因素初探》

• 胡恺健：《Privacy By Design 理论架构与技术实战》

• 大数据技术标准推进委员会：《隐私工程白皮书》

• 隐私保护之隐私信息检索

• 隐私计算之TEE的双操作系统支撑

• 隐私计算与区块链的融合思考

• 隐私计算中可信执行环境的一知半解

• 隐私计算之全同态加密

• 隐私计算中的联邦学习

• 从隐私到隐私计算