近日,江苏徐州一患者家属反映,在带患有高血压且对地平类降压药物过敏的老人就诊时,医生竟当着他们的面打开“豆包”查询用药。视频曝光后,涉事医院回应称,医生只是在查询新药是否适用,发现不适合后并未开药。尽管院方解释“从不用豆包开药”,但“当面查AI”的画面,无疑在医患之间划出了一道信任裂痕。
这件事的荒诞感在于:患者去医院看病,求的是医生的专业经验与临床判断,结果医生却当着患者的面,把问题抛给了一个大众聊天机器人。
必须承认,AI大模型进入医疗领域是大势所趋。国家卫健委等五部门印发的《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》,定位写得很清楚:AI是“辅助”,不是“替代”;北京、上海、天津等地也已明确禁用AI自动生成处方。不少三甲医院已经部署了专门的医疗垂直大模型,医生用AI快速核实信息并非不可取,面对过敏史谨慎查证,总比凭感觉开药要安全。
所以,真正的问题不是医生该不该使用AI,而是这道边界划在了文件上,还没落到诊室里。
先看工具边界。豆包是通用AI,不是医疗垂直模型,不能对严谨的临床判断负责。通用大模型的训练语料与算法并没有经过严肃的医学指南校准,极易出现错误或漏报。这种工具上的先天局限,决定了它不适合作为临床用药的决策依据,更不应承担具体用药建议的功能。工具本身没有原罪,问题在于它被放到了什么位置。在医院这个容不得半点试错的特殊场合,医生的医学疑问,应当交给有医疗器械资质、经过临床验证的专业系统来辅助,或交由临床药师、上级医师共同把关。
再看场景边界。工具选对了,也不等于怎么用都对。医生在后方用专业医疗AI查信息,与当着患者的面用AI回答具体用药问题,是两码事。即便医院部署的是专业医疗AI,当面使用也并非天然可接受。诊室是特殊场地,患者挂号求诊,相信的是医生作为最终判断者的把关能力;如果医生当着患者的面把具体用药问题抛给AI,再从屏幕上转述答案,医生就从“判断者”变成了“转述者”,极大损害了患者对医生的信任。场景一变,同一个工具的使用性质就变了。
把边界说清,还要把边界落到制度上。对医院来说,首先要建立AI工具准入清单,明确哪些医疗垂直模型可以在哪些场景使用;其次,要制定使用规程。坚持后台辅助优先,如确需当面查询,医生应先说明意图,不展示未经核实的生成内容,涉及新药、过敏史、药物相互作用等高风险问题须经临床药师或院内决策系统复核;再次,要留痕可追溯。记录工具名称、版本、查询时间、查询问题、采纳或不采纳的理由,必要时纳入病历或院内日志,出现不良事件可回溯。边界只有落进制度,才不是一句空话。
医疗不只是查得到、算得准的科学,更是要靠多年临床积累才能把握的手艺。守住AI使用的边界,才是对生命最大的敬畏,也是对医患信任最好的保护。(郑州大学 杨非雪)