World Sleep Industry ENCYCLOPEDIA

个性化方案推荐引擎

4.4.2

定义、对象与系统边界

个性化方案推荐引擎是从预先建立并受管理的候选目录中,为特定用户召回、筛选、排序或组合可选方案的软件能力。在 WSIC 中归入 4.4.2 智能引擎。候选项可以是睡眠教育课程、一般健康活动、设备功能、环境设置、内容序列、非医疗服务或合适的专业资源。个性化依据可包括用户主动选择的目标、时间与预算、语言和无障碍需要、设备兼容性、完成记录,以及在明确授权下使用的睡眠日记或传感数据。

推荐引擎主要决定“从已有选项中先展示什么”,不同于自由创作文字或媒体的内容生成引擎,也不同于生成全新计划结构的方案生成模型。它不因使用人工智能就自动获得诊断、处方、分诊或治疗权限。输出若针对特定患者提供疾病预防、诊断或治疗建议,或直接影响临床决定,必须按真实用途评估临床决策支持、医疗器械、专业执业与病历责任;普通消费平台不得把商业推荐包装成医疗方案。

候选目录、规则与排序链路

可靠系统先治理“推荐什么”,再优化“如何排序”。候选目录应为每个项目保存内容负责人、版本、证据来源和适用范围、年龄与地区、必要设备、成本与时间、可访问性、禁忌、过期和下架状态、商业关系及转介条件。方案名称相似不表示风险和证据相同;一次睡眠卫生提示、结构化失眠认知行为治疗、处方药调整和呼吸设备设置不能放在同一权限层级。

典型链路包括身份和同意校验、数据质量检查、候选召回、硬性资格与安全过滤、多目标排序、多样性调整、理由生成、人工复核或用户确认、交付及反馈。年龄不符、设备不兼容、地区不可用、已知禁忌和超出权限的项目应由可测试的硬规则排除,不能依赖模型“降低分数”。排序可结合内容匹配、用户偏好和历史完成,但健康安全、用户负担与公平约束应优先于点击、购买、停留或续费。没有合适项目时,明确返回“暂不推荐”是正确结果。

数据治理、画像与用户控制

睡眠时间、作息、声音、位置、床伴、心率、呼吸线索、情绪、用药和搜索行为可以共同推断敏感健康及生活信息。系统应逐项说明收集什么、来自哪里、为哪个推荐目的使用、保存多久、谁能访问、是否进入广告或模型训练,并只取得完成当前用途所必需的数据。连接设备、导入医疗记录、共享给合作方和用于持续学习应分别授权;拒绝非必要数据不能成为获得基础服务的障碍。

用户应能查看和更正关键偏好,删除历史或派生画像,关闭某类推荐、降低提醒频率、选择不个性化版本,并知道一次点击、跳过或未完成会如何影响后续排序。冷启动和缺失数据应通过主动询问、保守默认和清楚不确定性处理,不能用年龄、性别、职业或地区刻板推断健康状态。账户删除应覆盖可关联画像、向量和待训练队列,并按照适用规则处理备份、法定留存和已共享副本。

健康安全、人工监督与转诊

推荐前应区分一般教育、生活方式支持、结构化行为干预、临床评估和治疗。慢性失眠的一线循证治疗并不等于一组自动睡眠提示;睡眠呼吸暂停、发作性睡病、复杂精神症状、药物不良反应和设备治疗需要有资格的专业人员。消费级可穿戴指标可提供线索,但未经相应验证时不能独立诊断或作为调整处方、氧疗、正压通气参数和高风险睡眠限制方案的依据。

系统应识别持续严重失眠、明显日间嗜睡、目击呼吸暂停、胸痛或呼吸困难、意识改变、躁狂或精神病性症状、自伤风险和其他紧急线索,并进入清晰的人工或当地急救路径。高风险输出需要明确责任人、复核时限、依据和覆盖方式;“由人工监督”必须对应真实可用且经过培训的人员,而不是免责文字。用户可拒绝推荐、请求人工解释或改用其他渠道,不应被连续弹窗、恐惧信息或优惠倒计时逼迫接受。

解释、人因、公平与商业影响

每项推荐应说明使用了哪些关键条件、为何适合当前目标、有哪些限制和替代项、预计投入、何时停止或复核,以及商业关系是否影响位置。解释要忠实于实际规则和模型,不能用通用模板掩盖主要驱动因素,也不能把相似度或排序分数描述为成功概率。界面应把系统建议、专业人员决定和赞助位置清楚分开,并防止自动化语气制造不当权威。

评价公平不能只比较总体准确率。应按与用途相关的年龄、性别与性别认同、语言、地区、残障和数字能力、班次、设备类型、支付能力及数据缺失程度检查候选覆盖、过滤错误、推荐质量、价格暴露、转人工和结果差异。推荐多样性和可控探索可减少热门项目、单一供应商或既有行为的自我强化。商业分成不得让高价或高毛利方案绕过安全和证据排序;未购买不能降低后续服务质量。

验证、上线监测与变更控制

上线前要冻结预期用途、目标人群、候选目录和版本,以独立数据和情景测试评价资格过滤、禁忌拦截、排序相关性、校准、多样性、解释一致性、无推荐质量、安全升级、延迟和故障恢复。测试应覆盖轮班、儿童监护、孕产期、老年、慢病、多语言、设备离线、时区变化、数据冲突、极端值和完全缺失。离线命中率高不能证明真实健康获益,A/B 测试也不能以已知有害或明显低质方案作为对照。

上线后应监测目录过期、输入分布变化、模型漂移、规则违反、推荐集中度、反复打扰、人工覆盖、投诉、不良事件和分组表现。日志需要连接输入版本、目录版本、模型与规则版本、推荐候选、过滤原因、最终排序、解释、用户选择和人工修改,但不应记录不必要的敏感内容。模型、特征、阈值、商业权重、数据源和候选证据发生变化时,应按风险重新验证、审批和发布;严重问题要能暂停推荐、回滚版本和通知受影响者。

采购、证据与合规治理

采购方应要求供应商提供预期用途、系统架构和数据流、候选治理、训练与验证数据概况、亚组结果、硬规则清单、人工监督、网络安全、隐私影响评估、更新策略、事件响应、退出迁移和停服后的数据处置。认证或符合某项 AI 管理标准只能说明管理体系的一部分,不能证明具体推荐准确、临床有效或符合每个地区的医疗法规。接口验收还要验证删除、导出、权限、审计、降级、回滚和供应商不可用情景。

任何健康效果宣称都应由与具体引擎版本、候选方案、人群、场景和结局相匹配的证据支持。推荐质量与方案本身有效性是两道独立证据门槛:引擎可能准确选中一个无效项目,也可能因错误过滤而错过有效项目。运营方应按部署地核对人工智能、医疗软件、专业执业、隐私、自动化决策、消费者权益、广告和未成年人规则,并提供可联系的责任主体、申诉和纠正渠道。可信系统追求适当、安全和可选择,而不是让每个人都收到更多推荐。