World Sleep Industry ENCYCLOPEDIA

隐私计算技术服务

6.4.2

定义、用途与服务边界

隐私计算技术服务,是围绕多个组织或系统在减少原始数据暴露的条件下完成联合查询、统计、匹配、建模或验证,提供方案设计、协议实现、平台部署、运行支持和证据交付的专业服务。可采用多方安全计算、同态加密、可信执行环境、私有集合求交、联邦学习、差分隐私或组合方案。各技术保护的对象、依赖的信任和可见的输出不同,“数据不出域”“可用不可见”只是目标描述,不能替代精确的安全定义。

服务不自动改变数据的法律属性、处理目的或参与方责任,也不等于数据已经匿名化。加密中的数据仍可能与个人或机构关联,联合结果也可能暴露成员关系、稀有人群或商业秘密。涉及睡眠记录、健康问卷、生理信号、设备标识、工作作息或医疗资料时,应先确定处理必要性、适用规则、角色、权限和保留边界;技术供应商不能以部署隐私计算为由承诺当然合规、绝对保密或允许任意二次使用。

业务问题、参与角色与威胁模型

立项应先写明参与方、各自输入、允许计算的函数、预期输出、更新频率、准确性要求和被禁止的推断。数据提供者、计算协调者、密钥持有人、平台运营者、结果接收者、模型使用者和审计者可能由不同实体承担;应绘制从源系统提取、预处理、协议交互、结果生成到删除的完整数据流,并明确谁决定目的和方式、谁只能受托执行。不能先采购平台,再寻找可以投入的数据和用途。

威胁模型需说明攻击者是诚实但好奇还是可能恶意,能控制多少参与方,是否可能串谋、冒充、篡改输入、中止协议、重放消息、观察网络或攻陷终端、云平台和管理员账号。还要覆盖时间、流量、参与名单、查询频次、错误信息、模型更新和日志等旁路信息。只证明传输加密或单个协议步骤安全,不能说明端点、输出、运维和组织流程均安全;威胁假设改变时,原结论应失效并重新评估。

技术选型、协议与组合架构

多方安全计算使各方在不直接披露输入的条件下共同计算约定函数,但仍会泄露被允许的输出,并受参与人数、串谋阈值、恶意安全模型、公平性和中止处理影响。同态加密允许对密文执行规定运算,但需要控制密钥归属、参数、支持的运算、噪声或近似误差及解密权限;私有集合求交会揭示交集或其大小,成员资格本身可能敏感。技术说明应写出协议、库、版本、参数和安全声明范围,不能用“军用级”或算法名称替代。

可信执行环境依赖硬件隔离、启动测量和远程证明,需管理固件、微码、证明服务、补丁、调试接口、侧信道和云运营权限;它不是纯密码学协议的同义词。联邦学习只把训练留在本地,梯度、参数更新和最终模型仍可能泄露训练资料,也可能遭受投毒、后门或恶意聚合。安全聚合可保护单个更新,差分隐私可约束输出泄露,稳健聚合可处理部分异常参与者,但组合后必须重新分析相互作用,不能把多种缩写叠加当作更高安全等级。

输出隐私、差分隐私与可用性

加密计算保护处理过程,不保证结果安全。精确小群体计数、反复重叠查询、集合差分、极端值、纵向关联和外部数据拼接,都可能从合法输出推断个人或机构。输出控制应定义最小群体、查询模板、频率与累计规则、人工或自动审批、异常检测和接收范围,并对模型、嵌入、特征、统计表和匹配名单分别评估。删除直接标识符、仅显示聚合值或限制下载都不能自动消除推断风险。

采用差分隐私时,应明确保护单位、相邻数据集定义、贡献界限、机制、隐私参数、组合方式、预算记账、随机性来源和失败概率,而不是只写“已加噪”。预算会随重复发布、多个分析和模型迭代累积,工程实现、裁剪和后处理也会影响保证。准确性应按预定用途及不同人群、机构和稀有事件检验,记录噪声导致的偏差和不可发布结果;不能为了美化精度私下重跑并挑选有利输出,也不能把差分隐私结果解释为个体诊断。

数据、密钥与生产运行

输入在进入协议前仍需最小化、校验和受控转换,包括字段、单位、时间窗、重复记录、身份匹配、缺失值和允许范围。恶意或错误输入可能造成结果偏差、模型投毒、溢出或资源耗尽,故要有数据契约、证明或抽检、参与方认证、限额和隔离机制。预处理若在明文环境集中完成,可能绕开核心保护;临时文件、缓存、容器镜像、崩溃转储、调试数据和备份都应纳入同一数据流与清理规则。

密钥、秘密份额、证明凭据和随机种子应有生成、分发、使用、轮换、撤销、备份、恢复和销毁流程,并避免单一运营者能够无记录地重构全部秘密。生产环境要锁定代码与配置版本,保护构建和发布链,实施最小权限、强身份验证、网络隔离、远程证明或等效验证、监控和安全日志。日志应足以追责但不得重新记录敏感输入或密钥;性能降级、参与方离线或协议失败时,不得静默回退到明文传输或未受保护的计算。

验证、审计与事件响应

验收应从书面威胁模型和协议声明出发,核对实现是否真的满足对应的被动或恶意安全、串谋阈值、输入和输出隐私及正确性。测试应覆盖正常与边界数据、空集和小集合、恶意输入、掉线、中止、重放、版本不一致、密钥丢失、证明失败和资源压力,并检查加密结果与受控参考计算的一致性。独立密码评审、代码与依赖分析、渗透测试和配置审查回答不同问题,单张检测证书不能代表持续运行安全。

运行证据应保留任务标识、参与方、获批函数、代码和参数版本、证明状态、预算消耗、输出审批、异常和删除结果,同时保护这些元数据本身。事件预案要覆盖密钥或份额泄露、串谋迹象、错误输出、模型反演、节点入侵、供应链漏洞、证明失效和误配置,并预定停止任务、隔离、换钥、重新计算、通知和纠正流程。事件是否触发法律报告或个人通知需按事实和法域判断,不能因原始数据没有离开本地就默认不存在泄露。

合同交付、变更与退出

服务协议应列明获批用途、参与方、数据类别、允许函数和输出、部署区域、分包方、开源和商业组件、密钥及管理员职责、服务可用性、事件协作、审计权和责任限制。交付物至少包括架构与数据流、威胁模型、协议和参数清单、部署基线、测试与剩余风险、操作手册、密钥方案、监控指标及恢复演练记录。延迟、吞吐、精度和成本应在代表性规模下验收;演示成功或试点速度不能保证生产峰值和长期可维护性。

数据字段、参与方、串谋假设、算法、密码参数、硬件、固件、云区域、模型、查询模板或输出接收者变化时,应进行影响评估并决定复验范围。退出计划需支持任务停止、访问与证明凭据撤销、密钥和份额处置、缓存日志备份清理、模型与结果归属确认、可移植记录交付及争议调查保留。宣传只能陈述特定架构和威胁模型下经验证的保护,不得声称“零泄露”“永不解密即绝对安全”“自动匿名化”“算法不可破解”或保证合规、诊断准确和睡眠改善。