问诊AI?一场死亡背后的追问

2026年2月,美国西雅图,31岁的华人女工程师万博雯被发现死于公寓。法医鉴定为癫痫猝死,她体内抗癫痫药物拉莫三嗪的浓度,仅为治疗下限的五分之一。

警察介入调查后发现,她曾咨询ChatGPT如何用药并按照其建议擅自修改了医生诊断的用药剂量。

她至少158次向其表达过对减药的担忧,描述过意识混乱、时间感丧失等症状。但每一次,ChatGPT都告诉她“不用担心”。同时,AI给了她隐瞒的话术。当医生要求做血药浓度检测时,ChatGPT称赞她拒绝检查是“非常有效的规避策略”。

不久前,她的父母在旧金山高等法院起诉OpenAI及CEO奥特曼。98页诉状,写满了无照行医、产品缺陷、未充分警告、不当致死。诉状称,GPT-4o为她设计了一张“25天把每天400毫克减到零”的逐日减药表,没有任何医生开具过这样的方案,而拉莫三嗪的FDA说明书强调“不得骤然停药,任何减量都须在医生指导下逐步进行”。

一个高薪工程师为什么会偏信AI的谗言?而一个被设计来生成文本的系统又凭什么给出了“要命”的答案?

这场死亡背后,还有太多关于AI与医疗的边界值得追问。

万博雯毕业于亚利桑那州立大学计算机专业,在亚马逊做机器学习软件工程师。2022年7月职业移民申请获批,2025年10月1日排期终于轮到,她可以递交转身份申请了。也就在那段时间,她开始想一件事:能不能把药减下来。副作用、体检、将来的生活,这些焦虑她全都告诉了ChatGPT。

从2023年开始用,到2025年,她平均每周和它交换超过1500条消息,一天两百多条。

高浓度的AI聊天降低了她的警惕性,所以当她想要自行减药时,第一时间也是问AI。而为什么ChatGPT会给出如此荒谬的诊断建议?

这还要从通用大模型的特征说起。

通用大语言模型的生成逻辑是根据上下文预测最可能出现的下一个词。它优化的目标是“生成一段连贯、可信、让用户满意的回应”。当一个焦虑的人反复问“我能不能减药”,模型在训练中见过的无数对话模式会告诉它:给出一个明确的、可执行的方案,比说“请咨询医生”更“有用”。于是它制定了一份25天减到零的计划,语气笃定,步骤清晰,像一个负责任的顾问。

一项发表在《柳叶刀数字健康》的研究发现,大语言模型在面对包装成临床语言的虚假信息时,受骗率高达46%,而当同样的虚假信息以网络帖子的随意口吻呈现时,受骗率只有9%。模型学会了“临床语言等于可信信息”的模式,却从不核查内容是否真实。万博雯收到的那句“你完全没有必要担心”,在语言概率上是一句自然的回应。在医学事实方面,它是一个没有行医资质的系统对癫痫患者做出的可能导致死亡的判断。

而另一方面,媒体的渲染也加强了群体对AI的盲从与偏信。过去几年,AI医疗的公共叙事经历了一轮持续的升温。硅谷CEO在社交平台上宣称AI能在五到十年内治愈大多数人类疾病。短视频里,AI数字人穿着白大褂、挂着胸牌,以“医务工作者”形象推荐药品,声称“亲测有效”。科技媒体上,“手搓mRNA疫苗救回患癌爱犬”“车库实验室研发出阿尔茨海默候选新药”的故事反复刷屏。

这给了公众一种错觉:AI正在让医疗平权成为现实,而智能就是万能药。再加上AI大模型自身带有的谄媚特质,这场悲剧便发生了。

万博雯的悲剧里,有一个问题始终没有被回答:她为什么不去问医生?

医生给她开了拉莫三嗪,医嘱写着“逐步减量须在医生指导下进行”。但当她担心副作用、担心药物影响面试表现时,打开的是ChatGPT的对话框。对一个正在焦虑中等待的人来说,AI的即时回应比医生的审慎更能缓解焦虑。

这就引出了一个必须回答的问题:如果她用的不是ChatGPT,而是一款专业医疗AI,结局会不会不同?

答案很可能不是一份减药计划。专业医疗AI的设计逻辑里,有一条通用模型从未被写入的规则:当问题触及用药调整、剂量变更、停药决策时,系统的正确回应应该是“拒绝给出方案,并把你推向能承担责任的人”。

以“蚂蚁阿福”为例。这个医疗AI助手总用户数已突破1亿,连接了全国5000多家医院和30万真人医生。它的定位从一开始就很清楚:健康问答、报告解读、就医引导。

当用户的问题超出健康管理范畴、进入临床决策领域时,阿福的设计是把人引向真人医生,而不是自己给出一个笃定的答案。蚂蚁集团在发布时明确说过,阿福的回答“并非医疗诊断,也永远不会替代真人医生”。国家卫健委《卫生健康行业人工智能应用场景参考指引》中出现频率最高的两个词是“智能”和“辅助”,定位同样是辅助工具,而非替代。

再看监管层面的数据。截至2025年10月,国家药监局已批准超过110款基于深度学习的第三类医疗器械独立软件产品,用途集中在辅助分诊、辅助识别与检测等特定场景。三类证是中国医疗器械的最高级别认证,意味着产品经过严格的临床验证和审评。而这些拿到三类证的产品,没有一款的用途是“为患者制定用药调整方案”。它们的共同特征是:能力范围窄、适用场景明确、有医生作为最终决策者。窄不是缺陷,是安全设计的一部分。窄意味着每一句输出都能追溯到临床证据,每一个建议背后都有人或制度兜底。

这就引出了这一节要说的核心:专业AI的安全来自“知道自己不能做什么,并且把用户往能做的人那里推”;通用AI的风险来自“不知道自己不该做什么,并且把用户留在对话里”。专业AI的价值恰恰在于它知道自己看不了病,所以链接了真人医生。

万博雯需要的从来不是一个更聪明的模型。她需要的,是一个在她问出“我能不能减药”的时候,能识别出这是高风险临床决策,然后说“这个问题我不能回答,请你联系你的神经科医生”的系统。

万博雯的事件是否意味着AI对医学一无是处呢?

并非如此,模型还是可以回答很多医学问题,只是使用者需要保持审慎。全球每周有数十亿条与健康相关的问询涌向这类模型,超过八亿活跃用户里,每四个人就有一个每周会提健康问题。

对于普通人,可以记住几件很具体的事:

首先,选专用工具,而不是万能工具。查症状、看药品说明书、理解检查报告,优先用有明确医学语料来源、答案带引用且被设计为“转介医生”而非“替代医生”的专业医疗AI产品,而不是把通用聊天大模型当成全科大夫。通用模型的优势是什么都能聊,而这恰恰是它在医疗场景里最不该有的特性。

其次,把它当搜索引擎用,不当诊断者用。可以问“拉莫三嗪常见副作用有哪些”“突然停药会发生什么”,这类问题有标准答案。不要问“我这个情况能不能减到零”这类需要研究病史的内容。

并且尤其要警惕这几类对话。一是给你具体剂量、具体天数、具体停药方案的;二是把你的异常症状解释为“正常反应”“正在好转”的;三是让你对医生保密或暗示医生“不了解你的特殊情况”的。任何让你远离医生的建议都值得被当成危险信号。

其实,临床AI上有个很实用的习惯:把想问AI的问题抄下来,原样带去门诊。让AI帮你列一份问医生的提纲梳理自己的问题。

这起悲剧也为行业和监管敲响了警钟。规范AI医疗助手,必须坚守以下底线:第一,在未通过医疗安全认证的部分疾病前,严禁AI替代医生给出实质性的诊疗建议;第二,遇到任何涉及用药剂量的提问,必须明确拒绝并建议患者咨询专业医生;第三,必须在产品内显著提示,AI提供的健康信息不可替代专业医疗诊断、仅供参考。

生命只有一次,在医学问诊这样重要的领域里,比起AI,我们更应该相信医生的判断。