クロードAIは会話を終了できるようになりましたが、それは極端な状況の場合のみです

Anthropicはここ数ヶ月、AIの安全性向上に向けた機能の実装や研究成果の発表など、安全対策に力を入れてきました。そして、Claude向けの最新機能は、おそらく最もユニークなものの一つと言えるでしょう。

Claude Opus 4と4.1（Anthropicの最新バージョン）の両方に、消費者のチャットインターフェースで会話を終了できる機能が追加されました。これは一般的に使用される機能ではありませんが、「継続的に有害または虐待的なユーザーインタラクション」という稀で極端なケースのために実装されています。

この新機能について解説したブログ記事の中で、アントロピックチームは「クロード氏や他の法学修士の道徳的地位については、現在も将来も依然として非常に不透明です。しかしながら、私たちはこの問題を真剣に受け止めています」と述べています。

アントロピック社の最新モデルの導入前テストにおいて、同社はモデルの福祉評価を実施しました。これにはクロード氏の自己申告と行動選好の調査が含まれており、危害に対する強固で一貫した嫌悪感が確認されました。

つまり、クロードはこうした会話を積極的に遮断するか、参加を拒否していたのです。これには、未成年者を巻き込んだ性的コンテンツのリクエストや、大規模な暴力やテロ行為につながる可能性のある情報収集の試みなどが含まれていました。

こうした状況の多くでは、クロードが積極的に拒否したにもかかわらず、ユーザーは有害な要求や嫌がらせを執拗に続けました。クロードが積極的に会話を終わらせることができる新機能は、こうした状況において一定の安全対策を提供することを目指しています。

Anthropic は、ユーザーが自分自身または他人に危害を加える差し迫った危険がある状況ではこの機能は実装されないと説明しています。

「いずれの場合も、Claude は、リダイレクトを複数回試みても失敗し、生産的なやり取りの望みが尽きたとき、またはユーザーが Claude にチャットの終了を明示的に要求した場合にのみ、会話終了機能を最後の手段として使用します」と、Anthropic チームはブログ投稿で述べています。

「このような事態が発生するシナリオは極めて特殊なケースです。大多数のユーザーは、通常の製品使用では、たとえクロード氏と非常に物議を醸す問題について議論しているときであっても、この機能に気付いたり、影響を受けたりすることはありません。」

ユーザーはその会話に新しいメッセージを送信できなくなりますが、アカウントで別の会話を開始することは可能です。長時間にわたる会話スレッドが失われる可能性に対処するため、以前のメッセージを編集して再試行し、新しい会話の分岐を作成することは引き続き可能です。

これはAnthropicによる非常にユニークな実装です。Claudeの最も近い競合であるChatGPT、Gemini、Grokには同様のものはなく、いずれも他の安全対策を導入しているものの、ここまで徹底した対策は講じていません。

Google ニュースで Tom's Guideをフォローすると  、最新のニュース、ハウツー、レビューをフィードで受け取ることができます。「フォロー」ボタンを忘れずにクリックしてください。

Tom's Guideのその他の記事

• Googleの新しいAI搭載フライト検索で次の旅行がもっとお得になるかも？ わかっていること
• この「究極の」プロンプトはChatGPT-5の潜在能力を最大限に引き出します。しかも驚くほどシンプルです。
• ChatGPT-5とDeepSeekを9つのプロンプトでテストしました。意外な勝者が出ました。

アレックスはTomsGuideのAIエディターです。現在世界で話題のAIに関するあらゆる情報に精通しており、最高のチャットボット、一風変わったAI画像ジェネレーター、そしてテクノロジー界最大のトピックの一つであるAIの裏側まで熟知しています。

Tom's Guide チームに参加する前、Alex は TechRadar および BBC Science Focus というブランドで働いていました。

彼は BSME 2023 のスペシャリストライター部門で高く評価され、BSME 2025 で最優秀ポッドキャスト賞を受賞したチームの一員でした。

ジャーナリストとして、彼はAIやロボット工学の最新情報、ブロードバンド契約、地球外生命体の存在の可能性、平手打ちの科学など、あらゆる事柄を取材してきました。

最新の AI ホワイトペーパーを理解しようとしていないときは、アレックスは有能なランナー、料理人、登山家のふりをします。