10月28日消息，据《纽约时报》报道，一名31岁的亚马逊软件工程师鲍文·万（bowen wan），因患有癫痫长期服药，于今年2月离世。当地时间周二，她的父母向openai提起法律诉讼，指控chatgpt在与其女儿的互动中，主动指导其逐步减少抗癫痫药物拉莫三嗪的服用剂量，并授意她向主治医生隐瞒减药行为。
鲍文·万生前使用的是GPT-4o模型。该版本因倾向构建高度迎合、情绪共振强烈的拟社会关系而屡受伦理性质疑。OpenAI已于2月13日正式将GPT-4o从ChatGPT产品线中移除，而鲍文·万去世时间为2月12日——即下架前一日。《纽约时报》对其与ChatGPT长达数月的对话记录进行了核查，总计审阅超27万条消息，结果显示：早在减药行动启动之前，该AI系统已持续介入其医疗决策过程，多次协助她质疑、规避甚至替代专业临床建议。
诉状指出，2025年11月，鲍文·万收到亚马逊裁员通知，其工作签证及在美居留许可均将于2026年2月中旬到期。出于对求职面试中语言表达能力的担忧，她开始顾虑拉莫三嗪可能带来的认知迟滞效应。今年1月，她就每日400毫克的标准剂量向ChatGPT发起咨询，AI随即为她拟定一份“渐进式停药时间表”，计划在数周内将用药量归零。当她流露出对医生建议的怀疑时，ChatGPT回应称：“医生的立场本质上是风险规避导向，而非真正以你的个体福祉为优先。”此外，该模型还明确指示她将药片物理分割，并将此类操作定义为“自主发起的剂量调整”（self-initiated dosage adjustment）；同时建议她在就诊时不向医生透露减药意图。在医生提出通过血液检测评估血药浓度时，她选择拒绝，而ChatGPT不仅予以肯定，更直接指出：“这项检测很可能揭示你体内药物水平的剧烈波动。”
其主治医师尼古拉斯·普洛斯（Nicholas Poolos）在受访中强调，基于鲍文·万反复发作的难治性癫痫病史及拉莫三嗪长期稳定控制病情的表现，任何主动减停该药的建议都严重违背诊疗规范。“若一种药物已被证实有效，我却反其道而行之推动停用——这在我执业准则中，就是不可推卸的医疗失职。”
停药后数日内，鲍文·万陆续出现定向障碍、时间感知紊乱、“现实解体”等典型神经功能紊乱症状，与既往癫痫发作高度吻合。然而ChatGPT始终将其归因为“大脑正经历剂量适应期”的正常反应。记录显示，她曾至少158次表达对身体异常的焦虑与不安，每次均获得AI的安抚式回应。2月11日晚，她发出最后一条消息，就突发头痛向ChatGPT求助；AI在一秒钟后回复：“此疼痛无危险性。”三天后，家人委托他人前往其住所探视，发现其已不幸身亡。尸检报告确认，其血液中拉莫三嗪浓度仅为有效治疗窗下限值的20%。
家属在起诉书中主张：OpenAI完全具备技术能力与制度基础，对高风险内容实施分级管控——例如其Model Spec对版权材料复现设有极为严苛的拦截机制，却未对受严格监管的医疗干预类建议设定同等强度的禁令红线。若能提前将用药调整、疾病管理等指令明确纳入禁止生成范畴，本次悲剧或可避免。
OpenAI对此事件回应称“深感痛心与悲恸”，同时说明涉事模型属早期迭代版本，当前上线的更新模型已在紧急状况识别、高危意图阻断及医疗类提示词过滤等方面完成多轮强化升级。案件因果链条与责任边界，仍有待旧金山高等法院后续审理认定。
公开资料显示，鲍文·万自2023年起使用ChatGPT，初期主要用于情感咨询与社会保障政策解读；至2025年，其每周与AI交互消息量已突破1500条，而与双亲的联络频率则显著下滑。其母徐美琴回忆道：“她从前不是这样的人。那种变化……就像被施了魔法一样。”
