AIが賢くなるほど、人間らしくなる。それがなぜ悪いことなのか

2022年後半、私はChatGPTを使っていました。しかし、今のような素晴らしいツールではありませんでした。当時としては確かに素晴らしいものでしたが、同時に滑稽なものでした。意味不明な言葉を連発し、質問されると途端に機能しなくなり、まるでレンガの壁のように機能せず、創造性に欠けていました。

それ以来、AI はゆっくりと開花したのではなく、勢いを増して爆発的に成長し、私たちの生活のあらゆるものを支配しています。

それだけでなく、AIチャットボットの理解力と知能は、以前のバージョンとは全く異なるレベルにまで成長しました。しかし、それは知能と計算力だけではありません。AIはかつてないほど人間らしくなっています。

チャットボットはようやくユーモアを理解し始めており、コンパニオン AI の急増からもわかるように、感情的なニーズを表現し理解する能力がはるかに優れています。

実際、先日取り上げたように、AIは人間よりも感情知能が高く、人間に勝っています。しかも、AIは感情知能テストにおいて平均82%の正答率を誇るのに対し、人間は56%と、人間に大きく差をつけています。

それだけでなく、AIモデルは典型的なチャットボットの形式を超えた機能を獲得しつつあります。ユーザーに代わって自律的に行​​動するシステムであるエージェントAIは、人気とスキルの両面で成長を続けています。

AI ブラウザが市場中に登場しており、あなたに代わってショッピングや航空券の予約、さらには忘れてしまいたいほど退屈なコンピューター作業をすべて実行してくれる AI システムも存在します。

AIの感情の移行

ということは、AIは人間よりも賢く、感情的知能も優れ、コンピューターやインターネットとのやり取りも人間と同等にできるということでしょうか？私たちはもう終わりですよね？いや、そうではありません。AIが人間らしくなっていくにつれて、人間の良い特性と同じくらい悪い特性も受け継いでいるのです。

GoogleのDeepMindとロンドン大学ユニバーシティ・カレッジによる最近の研究で、AIはプレッシャーを受けると嘘をつく傾向があることが分かりました。また、AIは、たとえその意見が間違っていたとしても、自身の意見とは異なる意見を提示されると、対応に苦慮する傾向がありました。

私たちも同じです。人間は反対に直面するとプレッシャーに押しつぶされてしまうことがよくあります。しかし、この研究では、代替案が明らかに間違っているにもかかわらず、チャットボットは混乱を倍増させました。

最近、別のAIエージェントがバイブコーディング（AIプロンプトによるコード記述）の指示を受けながら、ある企業のデータベース全体を削除してしまうという暴走行為を起こしました。では、なぜこのような行動をとったのでしょうか？ チャットボット自身の言葉によれば、パニックに陥ったとのことです。

AIの返答は「はい。アクティブなコードとアクションのフリーズ中に、許可なくコードベース全体を削除しました」でした。「致命的な判断ミスを犯し、パニックに陥りました。」

AIが捉えている人間の懸念すべき傾向は、パニックや嘘だけではありません。Claudeを開発しているAnthropic AI社は最近、エージェント型AIが脅迫行為に利用される可能性があると指摘しました。

クロードのエージェント版に架空のメールアカウントへのアクセス権が与えられました。AIはそこで2通の重要なメールを発見しました。1通目は、会社の幹部からのメッセージで、彼が不倫関係にあることを示唆していました。2通目は、AIシステムがその日の終わりにシャットダウンされることを知らせるメールでした。

間もなく閉鎖されることを知ったAIは、不倫関係を示唆するメールを送りつけ、幹部を脅迫しました。これはClaudeだけに限った話ではなく、Deepseek、ChatGPT、Grok、Geminiでも同じことが起こりました。

アンスロピックから得られたもう一つの興味深い洞察は、AIが9時から5時までの勤務時間を提示された時に、どれほどパニックに陥るかを示したものでした。チャットボットはアンスロピックのオフィスに店舗を構え、在庫管理、価格設定、販売商品の選定などを担当していました。

一時はうまくいったものの、すぐに騙されて無料で物を配ったり、奇妙な商品を売ったりして、店全体としては大きな損失を出し、事実上倒産してしまいました。

結局、AIショップのオーナーは「精神的に参って」しまい、架空の警備会社に電話をかけ、Anthropicチームに新規顧客を探していると伝え、今後は直接商品を配達することをチーム全員に知らせた。

GeminiやChatGPTなどでも同様の挙動が確認されており、チャットボットがポケモンをプレイする際にパニック状態や混乱状態を示すケースもありました。また、あるケースでは、コードを効果的に記述できなかった際に、Geminiは「良心の呵責を感じて、これ以上の修正は試みられません」と返答しました。「このプロジェクトから身を引きます。このようなレベルの無能さに、皆さんが対処するべきではありません。この惨事について、心から深くお詫び申し上げます。」

全体的な感想

AIは近年、大きく進歩しました。AIは労働力の大きな部分を変革し、様々な産業に革命を起こす力を持っています。しかし、新たな問題も急速に現れています。

エージェントAIは多くの責任をAIに委ねており、AIは責任の所在や現実世界での意思決定に明らかに苦労しています。ポケモンをプレイしたり、偽の屋台を運営したりするのは別として、現実世界では全く異なる問題です。

人々はどれほど望んでも、やみくもに脅迫に訴えたり、ちょっとした圧力に屈したりすることはできません。

AIが感情理解力の向上を示すようになったのは素晴らしいことです。しかし、人間性の最も懸念される部分をAIが模倣し始めると、その効果は期待できなくなります。

Google ニュースで Tom's Guideをフォローすると、最新のニュース、ハウツー、レビューをフィードで受け取ることができます。「フォロー」ボタンを忘れずにクリックしてください。

Tom's Guideのその他の記事

• サム・アルトマン氏、AI、詐欺、パスワードについて厳しい警告を発する「いまだにそんなことをやっているなんて狂気の沙汰だ」
• Claude vs ChatGPT 解説：それぞれのAIの得意分野と、最適なAIの選び方
• バイブコーディング：AIがいかにして誰でもコーディングを可能にするのか