算不算自己做的决定?算。出了事责任归谁?归你。
这就是我国现行监管规则和司法实践给出的统一答案:
谁最终签字、谁承担首要责任,AI只是辅助工具。用华东政法大学经济法学院副教授程威的原话说
:“没有可核查的人工复核痕迹,AI辅助就会异化为业务外包,持牌监管的制度价值也就落空了。”
你可以把AI理解成一份未经核验的“初稿”。盖章生效的永远是人,这是目前法律实务中一条不可突破的底线。
责任怎么分,规则上写得很清楚
先看投资咨询场景。证监会现行的《证券投资顾问业务暂行规定》(2020年修订版)明确要求,持牌机构必须审慎提供服务、建议需匹配客户风险承受能力,且全环节留痕可追溯。拿到AI吐出来的选股结论,持牌投顾如果没有实质性复核就直接发出去,第一步就已经违规了。
2026年初,山西的慧研智投和上海的九方云智能科技,都因多项投顾业务违规被证监局处以暂停新增客户3个月的监管措施。
九方智投披露收到行政监管措施的公告
再看医疗诊断场景。国家卫健委等五部门2025年10月联合印发的《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》,核心就八个字——
“赋能而不替代”
。文件明确要求核心诊疗环节必须实施人工复核与责任留痕机制。
负责给最终诊疗意见签字的医生,仍然是法定首要责任人。
北京目前启动了互联网诊疗首诊试点——在2026年1月到12月的试点期内,北京儿童医院和首都儿童医学中心的三个专业开放线上首诊服务。但这不代表责任也免了:参与医生必须主治医师以上、3年以上临床经验,全流程留痕,急危重症必须立即转诊。
决策权不转移,责任更不会转移。
实际判例怎么说:已在用“用AI也要担责”的逻辑
纸上写归写,真到出事了怎么判?2026年有两起公开案例给出了明确信号。
一起是医疗事故。江西抚州一名2岁半患儿凌晨送到医院,值班医生安排了腹部X光片,提示肠梗阻,但他没有按规定触诊腹股沟区,漏掉了嵌顿性腹股沟疝这个致命病因,最终患儿转院途中死亡。
虽然这个案子患儿家属没有主动主张AI辅助诊断的问题,但法院的裁判逻辑十分清晰:
执行最终诊断签字确认的医生如果没按诊疗规范完成关键检查,责任仍然全在医生和医院
。
终审维持原判:医生医疗事故罪,有期徒刑一年,3年内禁止从业;民事部分医院承担85%责任,赔偿146万余元。
把这条逻辑平移到AI儿科医生场景里,结论完全一样——你拿了AI的建议,不检查就直接签字,出了问题,签字的那个人必须兜底。
另一起是AI投资咨询。上海一位无资质人员借助“炒股机器人”等AI自动化工具,对外非法提供投资建议、链接券商后台做自动交易,非法经营额3000多万元。2024年上海市静安区法院一审以非法经营罪、侵犯著作权罪数罪并罚,判了7年9个月,罚款500万,二审维持。
再说一个反面的辅助案例。杭州互联网法院审结过全国首例AI幻觉侵权案——用户用AI查高校报考信息,AI编了一个不存在的校区,还自己“承诺”赔偿10万。法院的认定很清楚:AI不具有民事主体资格,不能独立做出有法律意义的意思表示,AI随口说的“赔偿”不代表开发公司。
也就是说,法律根本不承认AI有“担责”的资格,责任主体只能是背后的人类或机构。
什么情况下AI厂商也要一起担责
当然,这不是说AI开发者可以彻底躺着。2026年9月,最高法刚发布的《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号)说了句很重的话:
“技术不是免责牌”
。
有两种例外情形可以追到厂商身上:一是AI开发者明知产品存在明确安全缺陷、训练数据有严重虚假错误、算法有明显危害他人的漏洞,却没提示也没修正——这对应民法上的“红旗原则”,侵权事实明显得像一面红旗在飘,服务提供者不能装看不见,要承担连带责任;二是医疗机构在采购合同里事先和厂商约定好追偿权,如果医疗损害确实由AI产品固有设计缺陷导致,医院先赔了患者之后,可以全额向厂商追偿。
但注意,截止到目前,还没检索到一起以“AI输出错误”为核心因果关系、让厂商兜底替代医生或投顾承担主要赔偿责任的生效判例。这条追偿路径在纸面上是通的,实务上厂商真正被判全额赔钱的案例目前还没有。
最后一个很多人没注意到的问题:心理陷阱
为什么研究者把它叫做“自动化偏见”?因为AI数字感很强的输出,会让人潜意识放弃了纠错的警觉——即使自己是持牌从业者。
九方智投在收到暂停新增客户的处罚后,给出的整改方案中提出“深化AI初筛+人工复核校验机制”。连吃罚单的机构都承认,此前所谓的人工复核机制根本没做扎实——AI输出的结论,直接成了对外的最终建议。
回到问题本身:当AI给出初步诊断或决策思路时,最终拍板的人算不算自己做决定?如果实质性核验了,算;如果没有,那就是在别人的草稿上签了自己的名字——妥妥的“你做的决定”,锅自然也是你的。
OCR:IMG:易及结算所有限公司及香港聯合交易所有限公司對本公告之内容概不负责 整性亦不發表任何聲明·明確表示,概不對因本公告全部或任何部分内容 賴該等内容而引致之任何损失承任何责任。 JFSmartInvestHoldingsLtd 九方智投控股有限公司 (於開曼群岛注册成立的有限公司) (股份代號:9636) 内幕消息公告 關於附属公司收到《行政管措施决定書》 九方智投控股有限公司(「本公司」,連同其附公司,统「本集 合交易所有限公司證券上市规则(「上市规则J)第13.09(2)條以及香 71章券及期貨條例第XIVA部项下之内幕消息條文(定義見上市 作出。 董事(「董事」)會(「董事會」)謹此知會本公司股东(「股东」)及 6年2月9日,於本公司附公司上海九方雲智能科技有限公司( 在達规行為,包括部分营销宣傅内容存在導性、直播营销内容存
OCR:IMG:1年 3年 医生有期徒刑 医生禁业年限 85% 146万余元 医院责任占比 医院赔偿金额
OCR:IMG:3000多万元 7年9个月 500万 非法经营额 有期徒刑 罚款金额