定義、對象與系統邊界
個性化方案推薦引擎是從預先建立並受管理的候選目錄中,為特定使用者召回、篩選、排序或組合可選方案的軟體能力。在 WSIC 中歸入 4.4.2 智慧引擎。候選項可以是睡眠教育課程、一般健康活動、裝置功能、環境設定、內容序列、非醫療服務或合適的專業資源。個性化依據可包括使用者主動選擇的目標、時間與預算、語言和無障礙需要、裝置相容性、完成紀錄,以及在明確授權下使用的睡眠日記或感測資料。
推薦引擎主要決定「從已有選項中先展示什麼」,不同於自由創作文字或媒體的內容生成引擎,也不同於生成全新計畫結構的方案生成模型。它不因使用人工智慧就自動取得診斷、處方、分流或治療權限。輸出若針對特定病人提供疾病預防、診斷或治療建議,或直接影響臨床決定,必須按真實用途評估臨床決策支援、醫療器材、專業執業與病歷責任;普通消費平台不得把商業推薦包裝成醫療方案。
候選目錄、規則與排序鏈路
可靠系統先治理「推薦什麼」,再最佳化「如何排序」。候選目錄應為每個項目保存內容負責人、版本、證據來源和適用範圍、年齡與地區、必要裝置、成本與時間、可及性、禁忌、過期和下架狀態、商業關係及轉介條件。方案名稱相似不表示風險和證據相同;一次睡眠衛生提示、結構化失眠認知行為治療、處方藥調整和呼吸裝置設定不能放在同一權限層級。
典型鏈路包括身分和同意核驗、資料品質檢查、候選召回、硬性資格與安全過濾、多目標排序、多樣性調整、理由生成、人工覆核或使用者確認、交付及回饋。年齡不符、裝置不相容、地區不可用、已知禁忌和超出權限的項目應由可測試的硬規則排除,不能依賴模型「降低分數」。排序可結合內容匹配、使用者偏好和歷史完成,但健康安全、使用者負擔與公平約束應優先於點擊、購買、停留或續費。沒有合適項目時,明確返回「暫不推薦」是正確結果。
資料治理、畫像與使用者控制
睡眠時間、作息、聲音、位置、床伴、心率、呼吸線索、情緒、用藥和搜尋行為可以共同推斷敏感健康及生活資訊。系統應逐項說明收集什麼、來自哪裡、為哪個推薦目的使用、保存多久、誰能存取、是否進入廣告或模型訓練,並只取得完成目前用途所必需的資料。連接裝置、匯入醫療紀錄、分享給合作方和用於持續學習應分別授權;拒絕非必要資料不能成為取得基礎服務的障礙。
使用者應能查看和更正關鍵偏好,刪除歷史或衍生畫像,關閉某類推薦、降低提醒頻率、選擇不個人化版本,並知道一次點擊、跳過或未完成會如何影響後續排序。冷啟動和缺失資料應透過主動詢問、保守預設和清楚不確定性處理,不能用年齡、性別、職業或地區刻板推斷健康狀態。帳戶刪除應涵蓋可關聯畫像、向量和待訓練佇列,並依適用規則處理備份、法定留存和已分享副本。
健康安全、人工監督與轉介
推薦前應區分一般教育、生活方式支援、結構化行為介入、臨床評估和治療。慢性失眠的一線循證治療並不等於一組自動睡眠提示;睡眠呼吸中止症、猝睡症、複雜精神症狀、藥物不良反應和裝置治療需要有資格的專業人員。消費級穿戴指標可提供線索,但未經相應驗證時不能獨立診斷或作為調整處方、氧療、正壓通氣參數和高風險睡眠限制方案的依據。
系統應識別持續嚴重失眠、明顯日間嗜睡、目擊呼吸中止、胸痛或呼吸困難、意識改變、躁狂或精神病性症狀、自傷風險和其他緊急線索,並進入清楚的人工或當地急救途徑。高風險輸出需要明確責任人、覆核時限、依據和覆蓋方式;「由人工監督」必須對應真實可用且受過訓練的人員,而不是免責文字。使用者可拒絕推薦、請求人工解釋或改用其他管道,不應被連續彈窗、恐懼資訊或優惠倒數逼迫接受。
解釋、人因、公平與商業影響
每項推薦應說明使用了哪些關鍵條件、為何適合目前目標、有哪些限制和替代項、預計投入、何時停止或覆核,以及商業關係是否影響位置。解釋要忠實於實際規則和模型,不能用通用範本掩蓋主要驅動因素,也不能把相似度或排序分數描述為成功機率。介面應把系統建議、專業人員決定和贊助位置清楚分開,並防止自動化語氣製造不當權威。
評價公平不能只比較整體準確率。應按與用途相關的年齡、性別與性別認同、語言、地區、身心障礙和數位能力、班次、裝置類型、支付能力及資料缺失程度檢查候選覆蓋、過濾錯誤、推薦品質、價格暴露、轉人工和結果差異。推薦多樣性和可控探索可減少熱門項目、單一供應商或既有行為的自我強化。商業分成不得讓高價或高毛利方案繞過安全和證據排序;未購買不能降低後續服務品質。
驗證、上線監測與變更控制
上線前要凍結預期用途、目標人群、候選目錄和版本,以獨立資料和情境測試評價資格過濾、禁忌攔截、排序相關性、校準、多樣性、解釋一致性、無推薦品質、安全升級、延遲和故障復原。測試應涵蓋輪班、兒童監護、孕產期、年長者、慢性病、多語言、裝置離線、時區變化、資料衝突、極端值和完全缺失。離線命中率高不能證明真實健康獲益,A/B 測試也不能以已知有害或明顯低質方案作為對照。
上線後應監測目錄過期、輸入分布變化、模型漂移、規則違反、推薦集中度、反覆打擾、人工覆蓋、申訴、不良事件和分組表現。日誌需要連接輸入版本、目錄版本、模型與規則版本、推薦候選、過濾原因、最終排序、解釋、使用者選擇和人工修改,但不應記錄不必要的敏感內容。模型、特徵、閾值、商業權重、資料來源和候選證據發生變化時,應按風險重新驗證、核准和發布;嚴重問題要能暫停推薦、回復版本和通知受影響者。
採購、證據與合規治理
採購方應要求供應商提供預期用途、系統架構和資料流、候選治理、訓練與驗證資料概況、亞組結果、硬規則清單、人工監督、網路安全、隱私影響評估、更新策略、事件應變、退出遷移和停服後的資料處置。認證或符合某項 AI 管理標準只能說明管理體系的一部分,不能證明具體推薦準確、臨床有效或符合每個地區的醫療法規。介面驗收還要驗證刪除、匯出、權限、稽核、降級、回復和供應商不可用情境。
任何健康效果宣稱都應由與具體引擎版本、候選方案、人群、場景和結果相匹配的證據支持。推薦品質與方案本身有效性是兩道獨立證據門檻:引擎可能準確選中一個無效項目,也可能因錯誤過濾而錯過有效項目。營運方應按部署地核對人工智慧、醫療軟體、專業執業、隱私、自動化決策、消費者權益、廣告和未成年人規則,並提供可聯絡的責任主體、申訴和修正管道。可信系統追求適當、安全和可選擇,而不是讓每個人都收到更多推薦。