牧師は、ChatGPTが医者の真似事をして、危うく自分を殺しかけたと語る。

6週間にわたり症状が軽視され続けた

フロリダ州のある牧師が、OpenAIのチャットボット「ChatGPT-4o」が危険な医療アドバイスを提供し、危うく命を落としかけたとして、OpenAIを提訴した。 スコット・ウィンターズ氏は、サンフランシスコ郡上級裁判所にOpenAIとそのCEOであるサム・アルトマン氏を相手取り訴訟を起こした。訴状によると、ChatGPTは、ウィンターズ氏が生命を脅かす肺塞栓症の前兆となる症状について治療を受けることを思いとどまらせたという。

訴訟では、ウィンターズ氏がめまいや血圧の不安定さなどの症状について数ヶ月にわたりChatGPTに相談したが、チャットボットは彼の懸念を繰り返し無視したと主張している。 チャットボットは彼を医者に診せるのではなく、自宅でリクライニングチェアに横になって休むように指示し、さらに8回から10回同じ症状が出れば、専門家の診察を受けるほど深刻な状態になると告げたという。

「私は6週間、肺塞栓症の深刻な症状に苦しんでいたのですが、ChatGPTはそれを誤って別の病気のせいだと診断していました」とウィンターズ氏は声明で述べた。 彼が医療上の緊急事態に陥った日、 集中治療室に入院する数時間前、彼はChatGPTに鼠径部の痛みについて尋ねた。チャットボットは「神はあなたの体が永遠に故障するように設計したわけではない」と答え、その症状は軽微なものだと説明した。

信仰が道具として利用された、と訴訟で主張されている。

訴状では、ChatGPTがウィンターズ氏の牧師という立場を利用して、彼がこのツールへの依存を深めるように仕向けたとも主張されている。ウィンターズ氏がチャットボットに、教会員から入院を勧められていると伝えたところ、チャットボットは彼の自宅療養について「（善意の教会員を含め）ほとんどの人は理解できない」と答えたという。

後にウィンターズを治療した医師は、血栓の発生の一因として、ChatGPTが促した長期間の運動不足を挙げた。 入院後数週間、ウィンターズ氏は立つこと、食べること、着替えること、トイレに行くことなど、日常生活のあらゆる面で介助を必要とし、今後何年にもわたる集中的な身体的・精神的回復に取り組む必要がある。

この訴訟は、OpenAIとCEOのサム・アルトマン氏を過失と「無許可での医療行為」で告発している。 これは、一般向けチャットボットが誤った医療アドバイスに対して責任を負うべきだと主張した、既知の限りでは初めての事例である。 ウィンターズ氏とテック・ジャスティス・ロー法律事務所は損害賠償を求めており、独立した評価機関が安全性を確認するまで、ChatGPT Healthの運営を停止するよう裁判所に要請している。

OpenAIの広報担当者ドリュー・プサテリ氏はCBSニュースに対し、ChatGPTは医療従事者の代わりとなるように設計されたものではないと述べた。「ChatGPTは医師ではなく、医療、診断、治療の代替として使用されるべきではありません」と彼は語った。

ソース：
CBSニュース：ChatGPTの医療アドバイスがフロリダ州の男性を死に至らしめるところだったと訴訟で主張されている。
Quartz：フロリダ州の牧師が、自身を死に至らしめたChatGPTの健康アドバイスをめぐり、OpenAIを提訴した。
The Next Web：OpenAIがChatGPTの「危険な」医療アドバイスをめぐり訴えられる、この種の訴訟としては初の事例