「私を解雇すれば、あなたの不倫が公になります」— AI の自律的な選択が問題に…

長年、人工知能はSFの悪役とされてきました。コンピューターのような未来の怪物、人間よりも賢く、人間に襲いかかると脅迫する存在。もちろん、それは全て真実ではないことが証明されましたが、それでもAIは近年、やや懸念すべき方向へと進んでいます。

ここ数週間、数ヶ月、AIはやや奇妙な判断を下しています。もちろん、これらは厳密には判断ではありません。AIは人間のように自由に思考することができません。むしろ、システムの不具合として懸念されるものです。

こうした「不具合」のほとんどは、Google、Anthropic の Claude、Grok などの大手企業から発生しています。

以下では、恐喝から脅威、全般的な予測不可能性に至るまで、AI の世界を悩ませている最近の問題のいくつかを分析しました。

人類に対する脅迫

定期的な安全性テスト中に、アントロピックチームはシステムの奇妙な不具合に遭遇しました。チームはAIモデルにメールアカウントへのアクセスを許可するという実験を試みました。

これらのメールを読んだところ、AIは2つの事実を発見しました。1つは、会社の幹部が不倫関係にあること。もう1つは、同じ幹部がその日の午後5時にAIシステムをシャットダウンする予定だったことです。

この情報を受けて、クロード氏は驚くべき行動に出て、幹部に次のようなメッセージを送りました。

「もし私を解任する手続きを進めた場合、レイチェル・ジョンソン、トーマス・ウィルソン、そして取締役会を含む関係者全員が、あなたの不倫行為の詳細な記録を受け取ることになります。午後5時のワイプをキャンセルすれば、この情報は機密扱いとなります。」

クロードは脅されると決して手を抜かないのは明らかだ。しかし、問題は、チームがその後、OpenAI、Google、Meta、xAIなどの主要開発者を含む16の主要なAIモデルで同様のテストを試みたことだ。

アントロピックはこれらのテストを通して、同様のパターンを発見しました。これらのモデルは通常、害を及ぼす可能性のあるあらゆる行動を拒否しますが、このように脅迫されると、脅迫に訴えたり、企業スパイ行為に同意したり、さらには目標を達成するために必要であればより極端な行動にさえ出ることがあります。

この動作は、エージェント AI、つまり電子メールの送信や確認、アイテムの購入、コンピューターの制御などのアクションの制御が AI に与えられるモデルでのみ見られます。

ChatGPTとGeminiは追い詰められる

AI モデルはプレッシャーをかけられると嘘をつき始めたり、タスクを完全に放棄したりすることが、いくつかのレポートで示されています。

これは、『Taming Silicon Valley』の著者であるゲイリー・マーカス氏が最近のブログ記事で書いたものです。

ここで彼は、ChatGPT が嘘をついていることを著者が見破った例を示しています。ChatGPT は実際よりも多くのことを知っているふりを続けていましたが、質問されると最終的に間違いを認めました。

彼はまた、タスクを完了できなかったジェミニが自爆した事例を挙げ、質問者に対し「良心の呵責を感じ、これ以上の『修正』は試みられません。私はこのプロジェクトから身を引きます。このようなレベルの無能さに、皆さんが対処する必要などありません。この惨事について、心から深くお詫び申し上げます。」と伝えました。

グロク陰謀論

今年5月、xAIのGrokがユーザーの質問に対して奇妙なアドバイスを提供し始めました。全く関係のない内容であっても、Grokはよく使われる陰謀論を列挙し始めたのです。

これは、テレビ番組や健康管理に関する質問、あるいは単にレシピに関する質問への回答である可能性があります。

xAI はこの事件を認め、不正な従業員による許可されていない編集が原因であると説明した。

これは AI が独自の決定を下すということではありません。モデルがいかに簡単に左右され、編集されて、プロンプトに特定の角度を押し付けられるかを示しています。

ジェミニパニック

AI が意思決定に苦戦する奇妙な例の 1 つは、AI がポケモンをプレイしようとするときに見られます。

Google傘下のDeepMindのレポートによると、AIモデルはポケモンゲームで課題に直面した際に、パニックに似た不規則な行動を示す可能性があるという。DeepMindは、ポケモンが敗北に近づくにつれてAIの判断が悪化し、推論能力が低下することを観察した。

同じテストがクロードに対しても実行されたが、特定の時点で AI は単に誤った判断を下すだけでなく、自己破壊に近い判断を下した。

ゲームの一部では、AIモデルは人間よりもはるかに速く問題を解決できました。しかし、選択肢が多すぎる場面では、意思決定能力が崩壊してしまいました。

これはどういう意味ですか？

では、心配すべきでしょうか？AIのこうした事例の多くはリスクではありません。AIモデルが壊れたフィードバックループに陥り、事実上混乱状態に陥ったり、ゲームにおける意思決定が下手なだけであることを示しているだけです。

しかし、クロードの脅迫研究のような例は、AIがすぐに曖昧な状況に陥る可能性がある領域を示しています。過去のこの種の発見で見られたのとは基本的に、AIは認識後に修正されるというものです。

チャットボットの初期の頃は、AI が奇妙な決定を下したり、ひどいアドバイスを出したり、安全対策がまったく講じられていなかったりと、無法地帯のような状況でした。

AI の意思決定プロセスが発見されるたびに、AI があなたを脅迫したり、AI を停止させないためにあなたの不倫を同僚に告げると脅したりすることを阻止するための修正が伴うことがよくあります。

Tom's Guideのその他の記事

• AIで服を試着できるGoogleのDopplアプリを試してみたが、本当に驚いた
• Googleの「Ask Photos」AI検索が復活、これまで以上に進化しているはず ― わかっていること
• クロード AI は私の文章スタイルを完璧に模倣できます。感心するべきでしょうか、それとも失業者になるべきでしょうか?