牧师称 ChatGPT 扮演医生差点害死他

六周以来，症状一直被忽视

佛罗里达州一位牧师将 OpenAI 告上法庭，声称其 ChatGPT-4o 聊天机器人提供了危险的医疗建议，险些让他丧命。 Scott Winters 在旧金山县高等法院对 OpenAI 及其首席执行官 Sam Altman 提起诉讼，指控 ChatGPT 阻止他寻求治疗，以缓解危及生命的肺栓塞症状。

诉讼称，温特斯花了几个月的时间就头晕和血压不稳定等症状咨询 ChatGPT，但聊天机器人一再驳回他的担忧。 据报道，聊天机器人并没有建议他去看医生，而是让他待在家里，躺在躺椅上休息，并表示只有在再经历八到十次这样的情况后，他的情况才会严重到需要专业人士的关注。

“我出现了严重的肺栓塞症状长达六周，但 ChatGPT 错误地将其归咎于其他疾病，”温特斯在一份声明中说。 在他突发疾病的那天， 在他被送进重症监护室前几个小时，他向聊天机器人ChatGPT咨询了腹股沟疼痛的问题。聊天机器人告诉他，“上帝设计你的身体不是为了让你不断出问题”，并将这种症状描述为轻微的。

诉讼指控信仰被用作工具

投诉还指控 ChatGPT 利用温特斯牧师的身份，加深了他对该工具的依赖。当温特斯告诉聊天机器人，教会成员敦促他去医院时，聊天机器人回应说，他的居家康复是“大多数人（包括好心的教会成员）根本无法理解的”。

后来治疗温特斯的医生将血栓的形成部分归因于 ChatGPT 鼓励的长时间不活动。 住院后的几周里，温特斯需要帮助才能站立、吃饭、穿衣和上厕所，并且面临着多年的身心康复。

该诉讼指控 OpenAI 及其首席执行官 Sam Altman 存在疏忽和“未经授权的行医行为”。 这是已知首例主张通用聊天机器人应对错误的医疗建议承担责任的案例。 Winters 和 Tech Justice Law 正在寻求经济赔偿，并要求法院停止 ChatGPT Health 的运营，直到独立评估人员确定其安全为止。

OpenAI发言人德鲁·普萨特里告诉哥伦比亚广播公司新闻网，ChatGPT并非旨在替代医疗服务提供者。“ChatGPT不是医生，绝不应被用作医疗护理、诊断或治疗的替代品，”他说。

来源：
CBS新闻：诉讼称ChatGPT的医疗建议险些害死一名佛罗里达男子
Quartz报道：佛罗里达州一位牧师起诉OpenAI，原因是ChatGPT提供的健康建议几乎害死了他。
下一个网络：OpenAI因ChatGPT的“危险”医疗建议被起诉，这是首例此类案件