World Sleep Industry ENCYCLOPEDIA

睡眠算法隱私保護訓練服務

6.4.2

定義、保護目標與適用範圍

睡眠演算法隱私保護訓練服務,是在訓練睡眠分期、呼吸事件識別、風險預測、訊號品質評估或其他模型時,透過資料最小化、隔離計算、密碼學協定和統計隱私機制降低訓練資料及參與方資訊洩露的服務。它可以採用受控中心訓練、聯邦學習、安全彙總、安全多方計算、同態加密、可信執行環境或差分隱私,也可能組合多種方法。技術選擇取決於威脅、資料分布和模型,而不是一個統一標籤。

服務應分別說明輸入隱私和輸出隱私。輸入隱私限制訓練期間原始樣本、局部梯度或模型更新被伺服器和其他參與方看見;輸出隱私限制訓練完成後的模型、預測介面和解釋結果洩露訓練人員資訊。加密傳輸只保護鏈路,安全彙總只隱藏單一更新,聯邦學習只改變資料移動方式,可信環境只隔離特定計算,均不能單獨保證最終模型不記憶資料。隱私目標還應與完整性、可用性、準確性和公平性共同管理。

威脅模型、資產與生命週期

威脅模型要涵蓋資料持有方、協調伺服器、計算節點、模型提供方、平台管理員、外部攻擊者和結果使用者,並聲明哪些主體可能串謀、偏離協定或遭入侵。敏感資產包括原始PSG和多模態訊號、標籤、參與名單、局部更新、全域模型、最佳化器狀態、檢查點、超參數搜尋紀錄、隱私預算、金鑰及日誌。攻擊可能發生在採集、預處理、訓練、彙總、調參、驗證、部署、再訓練和模型刪除的任一階段。

訓練階段既有保密風險,也有完整性風險。更新或模型可能暴露成員關係、屬性和訓練樣本;惡意節點可能提交偽造資料、錯誤標籤或操縱後的更新,製造整體退化、定向錯誤或後門。第三方預訓練模型、容器映像檔、相依套件與訓練程式碼還可能引入供應鏈風險。服務必須說明攻擊者知道什麼、能控制多少資料或節點、能否觀察多輪更新,以及保護在參與方離線、重試、串謀和模型公開後是否仍成立。

訓練架構與技術組合

受控中心訓練適合可以集中資料且具有強隔離和治理的場景,便於品質檢查,但會形成高價值資料集中點。聯邦學習讓資料留在節點本地並交換更新,適合醫院或裝置分布,卻仍需安全彙總、身分驗證、更新驗證和輸出隱私。安全多方計算或同態加密可保護彙總或部分訓練運算,但會增加通訊、計算和演算法調整成本。可信執行環境可隔離使用中資料和程式碼,卻依賴遠端證明、修補與側通道管理。

選型應把要保護的對象和可接受信任明確對應到措施。例如,安全彙總可阻止協調方直接讀取單一更新,但不能阻止最終模型記憶個案;差分隱私可限制個人對模型的影響,卻不保證節點提交資料真實;穩健彙總與異常偵測處理部分投毒風險,卻可能誤傷資料分布不同的誠實小型節點。組合時必須分析介面與失敗模式,防止資料在加密協定前的預處理、協定後的日誌或調參平台中以明文洩露。

差分隱私、貢獻邊界與模型發布

需要可量化的輸出隱私時,可在訓練中採用差分隱私。DP-SGD通常對每個保護單位的梯度進行裁剪,再加入校準雜訊,並透過隱私會計累計抽樣、訓練步數和多次執行的損失。必須明確相鄰關係是一個訊號視窗、一個夜晚或一個人的全部紀錄。同一人貢獻多個夜晚或數千視窗時,樣本層級裁剪不能直接宣稱人員層級保護;應採用分組、貢獻上限及與實際抽樣一致的會計。

ε、δ、裁剪範數、雜訊乘數、批次、輪次、參與率和會計方法都應記錄。超參數搜尋、模型選擇、提前停止判斷、重複試驗和後續微調若存取私密資料,也可能消耗預算,不能只計算最終訓練一次。模型發布前應進行成員推論、記憶和異常樣本洩露的防禦性測試,但經驗測試不能取代形式化保證。預測API還需限速、輸出最小化和日誌控制;模型權重若不可公開,應設置存取、下載和二次訓練限制。

資料品質、投毒防護與睡眠特性

睡眠資料在裝置、採樣率、感測器位置、標註標準、疾病和族群上高度異質。服務需統一資料字典、視窗、單位、遺漏值和標籤規則,並在本地驗證結構、範圍、樣本數量和簽章來源。同一人的相鄰夜晚和同一長訊號切片必須按人員分配訓練、驗證和測試,防止洩漏。隱私機制限制中心方查看本地資料後,低品質誠實節點與惡意節點更難區分,因此品質證明、統計摘要和異常更新只能作為多層證據。

投毒防護可組合參與方准入、資料和程式碼來源、更新範數限制、穩健彙總、異常偵測、保留驗證集、貢獻限額和分階段上線。任何方法都不應宣稱為完整防禦;攻擊者可能偽裝成正常異質性,嚴格過濾也可能排斥小型醫院、兒童或罕見疾病節點。應測試整體退化、定向亞組錯誤和觸發型異常,並建立暫停、隔離、回復與重新訓練流程。隱私保護和安全監測間的張力需要在威脅模型中明確記錄。

效用、效能與可稽核驗證

驗證應同時涵蓋隱私、正確性、效用、安全和執行成本。模型效能需在未參與訓練及調參的真實保留集上,按人員、機構、裝置、年齡、性別、疾病類型和罕見事件報告判別、校準、靈敏度、特異度和失敗率。應比較非私有基準、不同隱私參數和技術組合,呈現信賴區間與誤差來源。隱私保護造成的效能損失若集中在小群體,不能用整體平均掩蓋;用於醫療決策時仍需獨立臨床驗證。

執行基準應測量每輪延遲、通訊量、CPU或GPU、受保護記憶體、參與率、離線復原、密碼學預處理、證明時間和擴充能力。驗收需模擬節點離線、過期軟體、無效證明、異常更新、預算耗盡、金鑰服務失敗和模型回滾。稽核鏈應連結資料與程式碼版本、參與方、政策、隱私參數、訓練輪次、彙總結論、檢查點、驗證報告和發布核准,同時避免記錄原始梯度或敏感樣本。結果應可重現到設定,但不可透過固定雜訊或暴露隨機種子破壞隱私。

治理、採購驗收與服務邊界

資料控制方、各參與機構、模型負責人、平台和密碼服務營運者、隱私與安全團隊及臨床使用者應書面分配責任。訓練前需確認目的、合法依據、資料最小化、人員權利、跨境和地域、模型所有權、保存與刪除、節點退出、事件通知和再訓練規則。隱私保護訓練可降低特定洩露風險,卻不會自動使來源資料匿名、證明用途合法、消除偏差或賦予模型醫療有效性。

採購方應要求供應商提交威脅模型、輸入與輸出隱私聲明、架構和信任假設、協定及參數、差分隱私會計、串謀門檻、金鑰與證明機制、投毒與供應鏈控制、人員層級資料劃分、亞組效用、效能基準、獨立測試、漏洞修補和退出方案。驗收應重現核心訓練並驗證失敗路徑、預算累計和模型洩露測試。對「資料不出域即零洩露」「使用安全彙總即可發布模型」或「精度不下降證明隱私有效」等說法,應要求改為有範圍、可測量且說明殘餘風險的承諾。