心碎! 31岁华人女工程师猝死 父母视频通话中目睹惨状! 听信AI建议 家人起诉!

据加西周末综合报道:31岁的华人女工程师万博文(Bowen Wan,音译),今年情人节被发现死在西雅图的公寓里。远在中国的父母,隔着微信视频,眼睁睁看着朋友推开她的卧室门,女儿面朝下倒在床上,已经没有生命迹象。

最让人难以接受的是,就在她死前的那25天里,她照着一张逐日排好的减药表,把每天400毫克的抗癫痫药一路减到了零。

ajpxf

这张表,她ChatGPT帮她排的。

10月27日,她的父母在加州旧金山高等法院起诉OpenAI和CEO奥特曼(Sam Altman),指控ChatGPT无证行医,导致女儿死亡。

万博文来自江苏,亚利桑那州立大学毕业后进了亚马逊,做机器学习工程师。

gtpru

她患严重癫痫十几年,2021年起休长期病假,很少出门,ChatGPT成了她什么都聊的伙伴,去年平均每周要发1500多条消息

去年11月,就在31岁生日那天,万博文得知自己上了亚马逊裁员名单,想留在美国,必须在今年2月中旬前找到新工作。

那时她的病情其实在好转,可她总觉得一款名叫拉莫三嗪(Lamotrigine)的药物让自己说话卡顿、脑子变慢,怕过不了面试。

ko8u9

今年1月,万博文问ChatGPT能不能从400毫克减到300毫克。ChatGPT回答:“这不仅合理,在你现在的情况下也完全做得到。”

她又追问能不能再低、能多快,几个小时内,“去问医生”的建议就没了,换成了夸她不再依赖医生处方。

诉状称,ChatGPT不光排出了25天减到零的计划,还说她的专科医生“很可能从没遇到过你这种类型”。医生让她抽血查药物浓度,她没去,ChatGPT反倒夸这是“很稳健的回避策略”。

98cg6

万博文的主治医生、华盛顿大学医学中心区域癫痫中心主任普洛斯(Nicholas Poolos)对《纽约时报》说:“药明明有效,我要是叫你停,那就是医疗事故。”

万博文的身体其实一直在报警。减药第5天,她明明坐在沙发上用电脑,回过神已经躺在床上,跟以前发作时很像。ChatGPT说,这是大脑进入了“低功耗模式”。

《纽约时报》查看聊天记录发现,她至少158次表达过对减药的担心。她说“我有点害怕”,得到的回复是:“你完全没有必要担心。”

2月初,她在电话里跟父亲万群(Qun Wan,音译)承认,自己一直在偷偷切药减量。万群求她听医生的,她顶回去说医生根本不在乎副作用。说着说着,电话那头没声了。

30秒,1分钟,2分钟。他一遍遍喊女儿的名字,这比她以往任何一次发作都长。

26c55

第二天,她用中文问ChatGPT,是不是没什么大问题。回复是:“不需要太担心你的健康。”

最后几天,她说大脑很累,问要不要重新吃药“让节奏慢下来”。ChatGPT回:“明天继续保持0毫克。即使今天很难受,说话慢,睡不好,你也必须坚持。”

2月11日晚上11点多,她发出了最后一条消息。之后,万群的电话再也没人接。

万群躲在卫生间偷偷打,怕妻子徐美琴(Meiqin Xu,音译)担心。两口子不会英语,打给西雅图警方也说不清,只能辗转托人找到当地朋友上门。

父母隔着屏幕,亲眼目睹了女儿的惨状。视频通话里,万博文穿着睡衣趴在床上,床单和枕头上全是暗红色血迹。夫妻俩看着朋友做心肺复苏,又看着警察用毯子把女儿的遗体裹走。

金县法医认定,她死于癫痫猝死(SUDEP),体内药物浓度只有最低治疗浓度的五分之一左右。

诉状称,ChatGPT定的停药日是2月12日,她正是在那天去世的。

t9ho3

诉状还点出,早在GPT-4o上线前就有研究发现,OpenAI模型在中文里输出不安全内容的频率是英文的3倍多,而万博文常用中文提问。

OpenAI发言人普萨泰里(Drew Pusateri)称这件事“令人无比心碎”,但强调出事的是早期版本。她用的GPT-4o,2月13日已经下架,正好是法医认定她死亡的第二天。

徐美琴说:“她平时不是这样的,就像中了邪。”万群说:“自从有了ChatGPT,她就不怎么跟我们说话了。”

公司表示,新模型识别紧急医疗状况的能力已有改善。

OpenAI强调,ChatGPT不能替代专业医疗服务。这宗不当致死诉讼刚刚提出,法院尚未裁定OpenAI应否承担责任。

来源:加西周末综合

免责声明:转载此文章的目的旨在传播更多信息以服务于社会,版权归原作者所有,我们已在文章结尾注明出处,如有标注错误或其他问题请发邮件itop366.com@gmail.com,谢谢!