北京
（人民日报健康客户端记者 孔天骄）9月1日起，我国首个聚焦人工与智能客服协同的国家标准《顾客联络服务 人工与智能客户服务协同要求》正式实施，明确企业不得以“AI生成”为由推卸责任，该标准由国家市场监督管理总局和国家标准化管理委员会联合发布。
在健康领域，这一新规意义尤为特殊，从医院智能导诊、AI预问诊到互联网医院的报告解读工具，一旦AI给出错误指引导致患者延误就医、误判病情，责任归属长期存在模糊地带。新国标明确要求，涉及用户生命财产安全的问题应自动跳转人工，为医疗AI划出了一条底线。
8月31日，医法汇创始人张勇律师告诉人民日报健康客户端记者，这一推荐性国家标准虽不直接创设法律责任，但为司法裁判和行业合规提供了客观判断标准。
健康领域AI“犯错”，后果为何更严重？
在张勇看来，医疗健康领域的AI与一般场景存在本质区别。“它直接关乎人的生命健康，这是显著区别于一般场景的地方。”他分析指出，AI一旦在医疗场景中失误，可能导致患者伤残甚至死亡，这种损害后果是不可逆的，而其他场景的AI失误造成的财产损失，往往还有补救空间。
医疗领域的专业壁垒较高，患者对AI诊疗具有高度的信赖性。“一旦出现算法偏差，风险就直接转化为患者的人身损害，侵害的是生命健康权。”张勇进一步指出，许多疾病存在严格的时间窗口期，AI的错误指引可能让患者错失黄金救治时机，扩大损害后果。
此外，算法的“黑箱”特性也带来了责任认定的困难。“一旦发生医疗纠纷，是开发者的责任、医疗机构的责任还是医护人员的责任？很难区分。”张勇认为，这些因素叠加，形成了医疗AI领域独特的风险叠加效应。
新国标落地：从“免责借口”到“责任兜底”
“新规的意义在于，它从行业规范层面完成了从主体责任缺位到运营方权责的实质性转变。”张勇表示，新规明确，部署在官方服务渠道的AI回复等同于经营者的意思表示，企业无法再以“AI生成”为由免责。
这意味着，医疗AI输出的就医指引、费用说明、报告解读等内容，“在法律上可以视为经营者（医疗机构/平台）的承诺”，经营者需承担相应责任。张勇将这一变化概括为新国标带来的三点实质性改变：
第一，确立责任红线。新规强制性要求，凡涉及生命健康财产安全的问题，系统必须自动跳转人工服务，并配套无障碍人工机制。张勇指出，这从合规标准上界定了AI“辅助而非替代”的红线，“直接斩断了以AI替代专业医疗审核的操作空间”。
第二，提供司法标尺。虽然新规是推荐性国家标准而非法律法规，但张勇强调，它在司法裁判中具有重要参考价值。“法院有自由裁量权，国家推荐性国标可以影响法官对合理注意义务的判断。”标准中关于身份强制识别、关键事项需人工确认、风险提示等细化要求，未来都将成为法院判断医疗机构是否尽到安全管理义务的依据。
第三，推动行业转型。“这项国标为健康医疗AI的合规奠定了重要基础。”张勇表示，它正推动医疗健康领域从“野蛮生长”走向权责清晰的新阶段，要求企业在部署AI时同步建立审核、风控等机制，关键是建立“人工兜底机制”。
对于新国标的下一步走向，张勇建议，通过国标的实施应用，先推动相关部门出台指南或共识；条件成熟后，逐步推进部门规章或行政法规的制定，最终上升到国家立法层面。“要在技术创新与患者安全之间、数据利用与隐私保护之间、产业发展与风险防控之间找到法律的平衡点。”
同时，张勇强调：“人工智能是赋能而非替代，这是一个基本定位。每一个医疗健康领域的技术突破，都需要法律划定清晰的边界。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
