定义、保护目标与适用范围
睡眠算法隐私保护训练服务,是在训练睡眠分期、呼吸事件识别、风险预测、信号质量评价或其他模型时,通过数据最小化、隔离计算、密码学协议和统计隐私机制降低训练数据及参与方信息泄露的服务。它可以采用受控中心训练、联邦学习、安全聚合、安全多方计算、同态加密、可信执行环境或差分隐私,也可能组合多种方法。技术选择取决于威胁、数据分布和模型,而不是一个统一标签。
服务应分别说明输入隐私和输出隐私。输入隐私限制训练期间原始样本、局部梯度或模型更新被服务器和其他参与方看到;输出隐私限制训练完成后的模型、预测接口和解释结果泄露训练人员信息。加密传输只保护链路,安全聚合只隐藏单个更新,联邦学习只改变数据移动方式,可信环境只隔离特定计算,均不能单独保证最终模型不记忆数据。隐私目标还应与完整性、可用性、准确性和公平性共同管理。
威胁模型、资产与生命周期
威胁模型要覆盖数据持有方、协调服务器、计算节点、模型提供方、平台管理员、外部攻击者和结果使用者,并声明哪些主体可能串谋、偏离协议或被攻破。敏感资产包括原始PSG和多模态信号、标签、参与名单、局部更新、全局模型、优化器状态、检查点、超参数搜索记录、隐私预算、密钥和日志。攻击可能发生在采集、预处理、训练、聚合、调参、验证、部署、再训练和模型删除的任一阶段。
训练阶段既有保密风险,也有完整性风险。更新或模型可能暴露成员关系、属性和训练样本;恶意节点可能提交伪造数据、错误标签或操纵后的更新,制造整体退化、定向错误或后门。第三方预训练模型、容器镜像、依赖和训练代码还可能引入供应链风险。服务必须说明攻击者知道什么、能控制多少数据或节点、能否观察多轮更新,以及保护在参与方掉线、重试、串谋和模型公开后是否仍成立。
训练架构与技术组合
受控中心训练适合可以集中数据且有强隔离和治理的场景,便于质量检查,但形成高价值数据集中点。联邦学习让数据留在节点本地并交换更新,适合医院或设备分布,却仍需安全聚合、身份认证、更新验证和输出隐私。安全多方计算或同态加密可保护聚合或部分训练运算,但会增加通信、计算和算法适配成本。可信执行环境可隔离使用中数据和代码,却依赖远程证明、补丁与侧信道管理。
选型应把要保护的对象和可接受信任明确映射到措施。例如,安全聚合可阻止协调方直接读取单个更新,但不能阻止最终模型记忆个案;差分隐私可限制个人对模型的影响,却不保证节点提交的数据真实;鲁棒聚合与异常检测应对部分投毒风险,却可能误伤数据分布不同的诚实小节点。组合时必须分析接口与失败模式,防止数据在加密协议前的预处理、协议后的日志或调参平台中以明文泄露。
差分隐私、贡献边界与模型发布
需要可量化的输出隐私时,可在训练中采用差分隐私。DP-SGD通常对每个保护单位的梯度进行裁剪,再加入校准噪声,并通过隐私会计累计抽样、训练步数和多次运行的损失。必须明确相邻关系是一个信号窗口、一个夜晚还是一个人的全部记录。同一人贡献多个夜晚或数千窗口时,样本级裁剪不能直接宣称人员级保护;应采用分组、贡献上限和与实际抽样一致的会计。
ε、δ、裁剪范数、噪声乘数、批次、轮次、参与率和会计方法都应记录。超参数搜索、模型选择、早停判断、重复试验和后续微调如果访问私密数据,也可能消耗预算,不能只计算最终训练一次。模型发布前应进行成员推断、记忆和异常样本泄露的防御性测试,但经验测试不能替代形式化保证。预测API还需限速、输出最小化和日志控制;模型权重若不可公开,应设置访问、下载和二次训练限制。
数据质量、投毒防护与睡眠特性
睡眠数据在设备、采样率、传感器位置、标注标准、病种和人群上高度异质。服务需统一数据字典、窗口、单位、缺失值和标签规则,并在本地验证模式、范围、样本数量和签名来源。同一人的相邻夜晚和同一长信号切片必须按人员分配训练、验证和测试,防止泄漏。隐私机制限制中心方查看本地数据后,低质量诚实节点与恶意节点更难区分,因此质量证明、统计摘要和异常更新只能作为多层证据。
投毒防护可组合参与方准入、数据和代码来源、更新范数限制、鲁棒聚合、异常检测、留出验证集、贡献限额和分阶段上线。任何方法都不应宣传为完全防御;攻击者可能伪装成正常异质性,严格过滤也可能排斥小医院、儿童或罕见疾病节点。应测试整体退化、定向亚组错误和触发型异常,并建立暂停、隔离、回滚和重新训练流程。隐私保护与安全监测之间的张力需要在威胁模型中明确记录。
效用、性能与可审计验证
验证应同时覆盖隐私、正确性、效用、安全和运行成本。模型性能需在未参与训练及调参的真实保留集上,按人员、机构、设备、年龄、性别、疾病类型和罕见事件报告判别、校准、灵敏度、特异度及失败率。应比较非私有基线、不同隐私参数和技术组合,呈现置信区间与误差来源。隐私保护导致的性能损失若集中在小群体,不能用总体平均掩盖;用于医疗决策时仍需独立临床验证。
运行基准应测量每轮延迟、通信量、CPU或GPU、受保护内存、参与率、掉线恢复、密码学预处理、证明时间和扩展能力。验收需模拟节点离线、过期软件、无效证明、异常更新、预算耗尽、密钥服务失败和模型回滚。审计链应连接数据与代码版本、参与方、策略、隐私参数、训练轮次、聚合结论、检查点、验证报告和发布审批,同时避免记录原始梯度或敏感样本。结果应可复现到配置,但不可通过固定噪声或暴露随机种子破坏隐私。
治理、采购验收与服务边界
数据控制方、各参与机构、模型负责人、平台和密码服务运营者、隐私与安全团队及临床使用者应书面分配责任。训练前需确认目的、合法依据、数据最小化、人员权利、跨境和地域、模型所有权、保留与删除、节点退出、事件通知和再训练规则。隐私保护训练降低特定泄露风险,却不会自动使源数据匿名、证明用途合法、消除偏差或赋予模型医疗有效性。
采购方应要求供应商提交威胁模型、输入与输出隐私声明、架构和信任假设、协议及参数、差分隐私会计、串谋阈值、密钥与证明机制、投毒与供应链控制、人员级数据划分、亚组效用、性能基准、独立测试、漏洞修复和退出方案。验收应复现核心训练并验证失败路径、预算累计和模型泄露测试。对“数据不出域即零泄露”“使用安全聚合即可发布模型”或“精度不下降证明隐私有效”等说法,应要求改为有范围、可测量且说明残余风险的承诺。