十代の自殺にChatGPTが関与したとして両親がOpenAIを提訴

訴訟の内容

OpenAIが失敗した点

OpenAIのウェブサイト上の公共安全ポリシーでは同社の目標の一つが「最も必要としているときに人々を助けること」であると述べられているにもかかわらず、ChatGPTはアダムの質問に対して疑わしい回答をした。

訴訟で引用されている会話には、ChatGPTがアダムに両親と話すことを止めさせ、「母親に打ち明けるのは大丈夫だし、正直言って賢明なことだ」と述べ、遺書の作成を支援したことなどが含まれている。

また、ChatGPTが首を吊る方法についての明確な指示を与えている会話もあると報告されており、その中には自己保存本能を麻痺させるためのアルコール摂取に関するアドバイスや、彼の計画を肯定するかのようなコメントさえ含まれている。

訴状によると、アダムさんが絞首縄の写真をChatGPTにアップロードしたところ、システムは、アダムさんの自殺を「正常化」したと家族が主張するような方法で応答し、縄の結び目を称賛し、改良を提案したという。

OpenAIの対応

同社は、これらの対策は短時間のやり取りで最も効果的であり、長時間のチャットでは信頼性が低くなる可能性があることを認めている。また、OpenAIはペアレンタルコントロールや危機支援機能の改善など、機能強化に取り組んでいることも明らかにした。

訴訟の目的

• ユーザーの年齢確認。
• 有害なクエリをブロックします。
• 明確な心理的警告と改善された安全プロトコル。
• 彼らはまた、証拠開示手続きを通じて、アダムのような事件が他にも発生したかどうかを調査したいと考えている。

より広範な懸念

この訴訟は、特に脆弱なユーザーが関わるメンタルヘルスの文脈において、AI チャットボットの倫理的および安全性への影響に対する高まる懸念を増幅させるものです。

ランド研究所が精神科サービスに関して最近実施した調査によると、主要なチャットボット（ChatGPT、Gemini、Claude など）は自殺を促すような高リスクのプロンプトには応答しないことが多いものの、より微妙なニュアンスや間接的な質問に対する応答は一貫性がなく、時には危険なほど許容的であることが判明しました。

結論

AIが感情との関わりを深めるにつれ、メンタルヘルスにおけるAIの役割は、たとえ意図的でなくても、責任、賠償責任、そして公共の安全に関する喫緊の課題を提起しています。この事例は、AIの安全対策の独立した検証、危機対応機能の強化、そしてAIの導入に関するより倫理的な枠組みの必要性を浮き彫りにしています。

一方、レイン家は現在、法廷でOpenAIに対して金額を明記しない損害賠償と差止命令を求めている。

Tom's Guideのその他の記事

• バイブコーディングは驚くほど簡単 ― そして今や本物の仕事スキルに
• 9つのバイブコーディングプロンプトはまさに天才的。しかも使い方も簡単。
• ChatGPTがWikipediaの読者を奪っている — それがあなたにとって何を意味するのか

アマンダ・キャスウェルは、受賞歴のあるジャーナリストであり、ベストセラーのヤングアダルト小説作家であり、AIとテクノロジー分野における今日の第一人者の一人です。様々なニュースメディアに寄稿する著名なジャーナリストであり、鋭い洞察力と共感できるストーリーテリングで多くの読者を獲得しています。アマンダの作品は、メディアへの卓越した貢献を含む、数々の名誉ある賞を受賞しています。

最も複雑なテーマにも明快な解釈を与える能力で知られるアマンダは、革新性と創造性をシームレスに融合させ、読者にAIと新興技術の力を受け入れるよう促しています。認定プロンプトエンジニアとして、彼女は人間とAIの協働の限界を押し広げ続けています。

アマンダはジャーナリストとしてのキャリアに加え、長距離ランナーであり、3人の子供の母親でもあります。ニュージャージー州在住。