为什么要急于引入 AI
设备制造商正面临着缩短周期、改进投诉处理以及挖掘不断增长的数据流方面的压力。与此同时，批准新型植入物或诊断测试的监管机构也正在加强对引导临床决策软件的监管。
分步实施指南
1. 在选择模型之前，先定义预期用途
编写一份简洁的声明，明确用户、他们将输入系统的数据，以及至关重要的——系统不应执行的操作。例如，AI 助手可以被允许总结投诉内容，但绝不能发布最终的医疗报告。
2. 梳理当前工作流
记录目前工作在各部门（如医学事务、法规事务、质量管理等）之间的流转方式。记录交接点、周期时间和现有的错误率。这一基准可以让你看出 AI 在何处可以增加价值，以及在何处绝不能干扰关键控制点。
3. 使用 ISO 14971 进行风险管理
像对待任何设备危害一样对待 AI 风险。不要单独设立“仅限 AI”的风险登记册；应将潜在故障（例如输出错误或延迟）整合到整体安全性分析中。评估故障是否会影响患者安全，并据此分配严重程度和概率。
4. 构建可靠的数据基础
AI 需要干净且具有上下文的数据。创建将输入模型的记录清单：服务报告、设备标识符、风险文件等。规范化标识符，以便系统能将投诉与正确的批次或软件版本关联起来，并清除过时记录。应用现有的访问控制措施，以防止隐私泄露。
5. 在调整提示词 (prompts) 之前创建评估集
组建一个反映真实世界的测试语料库：常规投诉、罕见的边缘案例、多语言输入以及相互矛盾的服务记录。脱敏个人数据，以符合隐私政策。该集合将成为衡量模型性能和漂移 (drift) 的基准。
6. 将规则与生成分离
不要让语言模型决定一切。对于必填字段、截止日期计算和法规检查，请使用确定性代码 (deterministic code)。将模型保留用于语言密集型任务，如总结或翻译。这种分离使工作流具有可审计性，并降低了“幻觉”输出溜过去的风险。
7. 实施受控序列
一个安全的工作流通常遵循以下顺序：
- 验证用户身份。
- 获取经批准的证据（例如，之前的报告、设备历史记录）。
- 应用硬性业务规则以验证完整性。
- 生成包含来源引用的草案。
- 标记模型检测到的任何不确定性或矛盾之处。
- 要求人工审核员接受、编辑或拒绝草案。
记录每一步骤以实现可追溯性。
8. 验证与确认系统
验证 (Verification) 检查你是否“正确地构建了系统”——包括正确的模型版本、提示词设计、检索逻辑和人工审核界面。确认 (Validation) 确认你是否“为用户构建了正确的系统”——该工具是否在不增加错误率的情况下缩短了周期？运行第 5 步中使用的相同评估集，然后由实际操作人员进行用户验收测试。
9. 发布后进行监控与治理
逐步推出该工具并跟踪关键指标：被拒绝的草案数量、检索失败次数以及任何提示词变更。将提示词微调或模型升级视为必须经过现有 CAPA（纠正和预防措施）流程的配置变更。将故障模式反馈到风险登记册中，以保持 ISO 14971 的实时更新。
核心要点
在医疗技术 (MedTech) 中嵌入生成式 AI，并不是要部署一个黑盒模型；而是要将模型编织进现有的、有据可查的质量体系中，确保每一项输出都可追溯，每一项风险都得到管理，并且每一项决策最终都由人工做出。遵循这九个步骤，将 AI 的变更视为任何其他配置变更，即可在不损害安全性或合规地位的情况下，实现更快速、更智能的工作流愿景。