定義、用途與服務邊界
隱私計算技術服務,是圍繞多個組織或系統在減少原始資料暴露的條件下完成聯合查詢、統計、匹配、建模或驗證,提供方案設計、協定實現、平臺部署、運行支援和證據交付的專業服務。可採用多方安全計算、同態加密、可信執行環境、私有集合求交、聯邦學習、差分隱私或組合方案。各技術保護的對象、依賴的信任和可見的輸出不同,「資料不出域」「可用不可見」只是目標描述,不能替代精確的安全定義。
服務不自動改變資料的法律屬性、處理目的或參與方責任,也不等於資料已經匿名化。加密中的資料仍可能與個人或機構關聯,聯合結果也可能暴露成員關係、稀有人群或商業秘密。涉及睡眠記錄、健康問卷、生理訊號、裝置標識、工作作息或醫療資料時,應先確定處理必要性、適用規則、角色、權限和保留邊界;技術供應商不能以部署隱私計算為由承諾當然合規、絕對保密或允許任意二次使用。
業務問題、參與角色與威脅模型
立項應先寫明參與方、各自輸入、允許計算的函數、預期輸出、更新頻率、準確性要求和被禁止的推斷。資料提供者、計算協調者、金鑰持有人、平臺運營者、結果接收者、模型使用者和稽核者可能由不同實體承擔;應繪製從來源系統提取、前處理、協定互動、結果生成到刪除的完整資料流,並明確誰決定目的和方式、誰只能受託執行。不能先採購平臺,再尋找可以投入的資料和用途。
威脅模型需說明攻擊者是誠實但好奇還是可能惡意,能控制多少參與方,是否可能串謀、冒充、竄改輸入、中止協定、重放訊息、觀察網路或攻陷終端、雲端平臺和管理員帳號。還要覆蓋時間、流量、參與名單、查詢頻次、錯誤資訊、模型更新和日誌等旁路資訊。只證明傳輸加密或單個協定步驟安全,不能說明端點、輸出、維運和組織流程均安全;威脅假設改變時,原結論應失效並重新評估。
技術選型、協定與組合架構
多方安全計算使各方在不直接揭露輸入的條件下共同計算約定函數,但仍會洩露被允許的輸出,並受參與人數、串謀閾值、惡意安全模型、公平性和中止處理影響。同態加密允許對密文執行規定運算,但需要控制金鑰歸屬、參數、支援的運算、雜訊或近似誤差及解密權限;私有集合求交會揭示交集或其大小,成員資格本身可能敏感。技術說明應寫出協定、程式庫、版本、參數和安全聲明範圍,不能用「軍用級」或演算法名稱替代。
可信執行環境依賴硬體隔離、啟動測量和遠端證明,需管理韌體、微碼、證明服務、修補程式、除錯介面、側通道和雲端運營權限;它不是純密碼學協定的同義詞。聯邦學習只把訓練留在本地,梯度、參數更新和最終模型仍可能洩露訓練資料,也可能遭受投毒、後門或惡意聚合。安全聚合可保護單個更新,差分隱私可約束輸出洩露,穩健聚合可處理部分異常參與者,但組合後必須重新分析相互作用,不能把多種縮寫疊加當作更高安全等級。
輸出隱私、差分隱私與可用性
加密計算保護處理過程,不保證結果安全。精確小群體計數、反覆重疊查詢、集合差分、極端值、縱向關聯和外部資料拼接,都可能從合法輸出推斷個人或機構。輸出控制應定義最小群體、查詢範本、頻率與累計規則、人工或自動審批、異常偵測和接收範圍,並對模型、嵌入、特徵、統計表和匹配名單分別評估。刪除直接標識符、僅顯示彙總值或限制下載都不能自動消除推斷風險。
採用差分隱私時,應明確保護單位、相鄰資料集定義、貢獻界限、機制、隱私參數、組合方式、預算記帳、隨機性來源和失敗機率,而不是只寫「已加雜訊」。預算會隨重複發布、多個分析和模型迭代累積,工程實現、裁剪和後處理也會影響保證。準確性應按預定用途及不同人群、機構和稀有事件檢驗,記錄雜訊導致的偏差和不可發布結果;不能為了美化精度私下重跑並挑選有利輸出,也不能把差分隱私結果解釋為個體診斷。
資料、金鑰與生產運行
輸入在進入協定前仍需最小化、校驗和受控轉換,包括欄位、單位、時間窗、重複記錄、身分匹配、缺失值和允許範圍。惡意或錯誤輸入可能造成結果偏差、模型投毒、溢位或資源耗盡,故要有資料契約、證明或抽檢、參與方認證、限額和隔離機制。前處理若在明文環境集中完成,可能繞開核心保護;暫存檔、快取、容器映像、當機傾印、除錯資料和備份都應納入同一資料流與清理規則。
金鑰、秘密份額、證明憑據和隨機種子應有生成、分發、使用、輪換、撤銷、備份、復原和銷毀流程,並避免單一運營者能夠無記錄地重構全部秘密。生產環境要鎖定程式碼與設定版本,保護建置和發布鏈,實施最小權限、強身分驗證、網路隔離、遠端證明或等效驗證、監控和安全日誌。日誌應足以追責但不得重新記錄敏感輸入或金鑰;效能下降、參與方離線或協定失敗時,不得靜默回退到明文傳輸或未受保護的計算。
驗證、稽核與事件回應
驗收應從書面威脅模型和協定聲明出發,核對實現是否真的滿足對應的被動或惡意安全、串謀閾值、輸入和輸出隱私及正確性。測試應涵蓋正常與邊界資料、空集和小集合、惡意輸入、掉線、中止、重放、版本不一致、金鑰遺失、證明失敗和資源壓力,並檢查加密結果與受控參考計算的一致性。獨立密碼評審、程式碼與依賴分析、滲透測試和設定審查回答不同問題,單張檢測證書不能代表持續運行安全。
運行證據應保留任務標識、參與方、獲批函數、程式碼和參數版本、證明狀態、預算消耗、輸出審批、異常和刪除結果,同時保護這些後設資料本身。事件預案要涵蓋金鑰或份額洩露、串謀跡象、錯誤輸出、模型反演、節點入侵、供應鏈漏洞、證明失效和錯誤設定,並預定停止任務、隔離、換鑰、重新計算、通知和糾正流程。事件是否觸發法律報告或個人通知需按事實和法域判斷,不能因原始資料沒有離開本地就預設不存在洩露。
合約交付、變更與退出
服務協議應列明獲批用途、參與方、資料類別、允許函數和輸出、部署區域、分包方、開源和商業組件、金鑰及管理員職責、服務可用性、事件協作、稽核權和責任限制。交付物至少包括架構與資料流、威脅模型、協定和參數清單、部署基線、測試與剩餘風險、操作手冊、金鑰方案、監控指標及復原演練記錄。延遲、吞吐、精度和成本應在代表性規模下驗收;展示成功或試點速度不能保證生產尖峰和長期可維護性。
資料欄位、參與方、串謀假設、演算法、密碼參數、硬體、韌體、雲端區域、模型、查詢範本或輸出接收者變化時,應進行影響評估並決定複驗範圍。退出計畫需支援任務停止、存取與證明憑據撤銷、金鑰和份額處置、快取日誌備份清理、模型與結果歸屬確認、可攜記錄交付及爭議調查保留。宣傳只能陳述特定架構和威脅模型下經驗證的保護,不得聲稱「零洩露」「永不解密即絕對安全」「自動匿名化」「演算法不可破解」或保證合規、診斷準確和睡眠改善。