World Sleep Industry ENCYCLOPEDIA

睡眠数据差分隐私处理

6.4.2

定义、保护目标与适用范围

睡眠数据差分隐私处理,是通过随机化算法限制某个保护单位的数据是否参与,对统计结果、模型或其他发布物所造成影响的技术与服务。其核心比较两个只相差一个保护单位的相邻数据集,要求算法输出分布足够接近,从而降低观察者依据结果判断某人是否出现或推断其敏感属性的能力。差分隐私适用于睡眠队列统计、设备使用趋势、公共卫生分析、研究数据发布、合成数据生成及机器学习训练等场景。

差分隐私提供的是有条件、可量化的输出隐私保证,并非对原始记录加密,也不等同于删除姓名或实现绝对匿名。原始PSG波形、脑电、心电、呼吸、血氧、体动、音视频、诊断标签和设备标识在进入私有机制前仍可能被系统运营者看到,因此还需访问控制、加密、最小化、留存和删除措施。服务必须说明保护对象、攻击者可拥有的辅助信息、允许发布的内容以及保证不覆盖的环节。

保护单位、相邻关系与信任模型

真实保证首先取决于相邻关系,也称保护单位。按记录级保护时,相邻数据集只增减一条记录;按人员级保护时,则增减某人的全部记录。睡眠场景中,同一人可能有多个夜晚、多个设备、连续窗口和重复就诊。若只保护单个窗口,攻击者仍可从其余数百个窗口识别此人的习惯或病况。因此应根据风险选择人员、人员每日、人员每次检查或家庭等单位,并明确每个单位的最大贡献。

信任模型决定噪声在哪里加入。中心差分隐私假定受信任的数据管理方可见原始数据,在发布结果前执行私有机制;本地差分隐私在数据离开设备或个人前随机化,减少对中心方的信任,但通常需要更多样本或产生更大误差;分布式方案可借助安全聚合或多方计算分散信任。无论采用哪种模型,都应说明谁能看到未加噪数据、随机数和中间结果,以及系统被攻破、参与方串谋或设备掉线时保证是否仍成立。

隐私参数、敏感度与机制设计

纯差分隐私常用ε表示隐私损失上界;ε越小,两个相邻世界的输出越难区分,通常隐私越强、误差越大。近似差分隐私还使用δ描述保证允许的极小例外概率,δ必须结合受保护群体规模和失败含义评估,不能隐藏在默认配置中。ε和δ没有脱离上下文的万能合格值。选择应考虑数据敏感性、攻击者能力、分析目的、发布次数、可接受误差和对罕见个体的风险,并公开参数及其理由。

机制所需噪声取决于查询敏感度,即一个保护单位能使未加噪结果改变多少。计数通常较易控制,求和、均值、分位数、相关性和模型训练则需要预先限定每人的记录数与取值范围,或执行裁剪。睡眠时长、呼吸暂停低通气指数、血氧下降次数等若未设合理上下界,极端值会放大敏感度;界限若直接从私密数据选择,又会产生额外泄露。拉普拉斯、高斯、指数机制或专门算法应与隐私定义、数据类型和查询结构匹配,而非简单给任意结果添加固定噪声。

隐私预算、组合与发布流程

对同一保护单位反复发布结果会累积隐私损失。每天更新看板、研究者交互查询、重新训练模型、分亚组统计和重新生成合成数据,都可能消耗同一预算。服务应建立预算账本,在运行前登记机制、参数、保护单位、数据版本、接收者和预计消耗,在达到上限时拒绝、降精度或进入审批。不能通过更改任务名称、复制数据集或由不同团队查询来绕过组合计算;跨系统使用同一批人员数据时,也需有组织层面的预算协调。

发布计划宜在查看私密结果前确定查询集合和预算分配,利用层级直方图、工作负载优化或一次私有结果的后处理来复用信息。后处理不会增加已发布结果的差分隐私损失,但再次访问原始数据、根据私密结果自适应选择新查询或泄露未经保护的中间量,会产生新的风险。缓存必须保证相同查询不会因重复抽取噪声而形成平均消噪;取消、失败和重试如何记账也要预先规定,避免利用错误路径无限试探。

效用、公平性与模型应用

验收不能只报告总体平均误差。应按样本规模、地区、年龄、性别、设备类型、睡眠障碍类别和罕见事件评估偏差、方差、置信区间、排序稳定性、假阳性与假阴性。噪声对小医院、小群体和低发生率事件影响通常更大,可能产生负数、不一致层级或临床上不可用的波动。约束推断与一致性后处理可改善呈现,但不得掩盖原始噪声、选择偏差或群体差异;面向诊疗或资源配置的结果还需独立临床验证和人工监督。

用于机器学习时,应明确保证针对训练人员、训练记录还是预测查询。DP-SGD通常通过裁剪单样本梯度并加入噪声,再由隐私会计累计采样和训练轮次的损失;批次抽样方式、裁剪阈值、步数和会计方法必须与实际代码一致。同一人的多个夜晚若被当成独立样本,记录级保证不能直接宣称为人员级保证。模型验收需同时测试总体与亚组性能、校准、成员推断风险、训练稳定性和复现实验,并记录因隐私约束无法学习的稀有模式。

实现验证、数据安全与审计

差分隐私机制容易因敏感度计算错误、噪声尺度错误、浮点精度、伪随机数、截断顺序、异常分支或调试输出而失效。应使用经过评审的库与明确版本,对相邻数据集开展统计测试,复核数学证明和代码路径,并测试空数据、小样本、极端值、溢出、并发和重试。随机源应适合安全目的,种子和未加噪中间结果不得进入日志;将噪声固定为可预测值以便重现,会破坏预期保护。

生产环境仍须保护原始库、分析沙箱、临时文件、缓存、模型检查点和备份。审计链应记录数据版本、保护单位、贡献界限、查询或训练代码、机制、ε与δ、预算消耗、随机化作业标识、输出接收者和审批者,但避免保存可用于恢复噪声或原始值的秘密。应持续监测查询组合、异常预算消耗、越权导出和效用漂移;发现实现缺陷后要能暂停发布、界定受影响输出并通知相关方,而不是仅在下一批数据中修正。

治理、采购验收与服务边界

数据控制方、隐私负责人、统计或机器学习团队、平台运营者和结果使用者应共同确定风险容忍度和效用要求。部署前需完成目的限制、合法依据、数据最小化、数据主体权利、保留期限、跨境处理和事件响应安排。差分隐私可以降低发布物对个体的额外泄露,却不能修复非法采集、错误标签、歧视性用途或已泄露的原始数据,也不能自动判定发布物已达到某项法律上的匿名标准。

采购方应要求供应商提交相邻关系、保护单位、贡献界限、信任模型、机制与证明、ε和δ、组合会计、预算治理、随机源、实现依赖、效用报告、已知限制和独立评估。验收应复现相邻数据测试,验证重复查询与跨版本预算累计,检查小群体和临床指标误差,并确认原始与中间数据仍受安全控制。对“加入噪声即匿名”“ε为某个数就绝对安全”或“任意次数发布均不增加风险”等说法,应要求改为带参数、范围、证据和残余风险的可审计承诺。