研究者がジェミニのセキュリティ欠陥を発見 — しかしGoogleは修正しないと発表

研究者は、Google Gemini がユーザーを騙して偽の情報を与え、悪質な Web サイトに誘導できることを実証できたが、Google はこの ASCII 密輸攻撃を真のセキュリティ バグとは考えておらず、この欠陥に対する修正プログラムを公開する予定はないと述べた。

BleepingComputer の報道によると、同社は今回の発見は実際のセキュリティ上の脆弱性というよりも、ソーシャルエンジニアリング攻撃の問題であるとして一蹴した。

Gemini は Google Workspace と密接に統合されているため、この脆弱性は高リスクの問題です。この攻撃により、カレンダーの招待状やメールに隠しテキストが埋め込まれ、AI アシスタントに表示されていないカレンダーの招待状タイルを指示したり、主催者の詳細や非表示の会議の説明やリンクを上書きしたりできる可能性があります。

ASCIIスマグリングとは、UnicodeのTagsブロックに含まれる特殊文字を用いて、ユーザーには見えないものの、大規模言語モデルによって検出・処理可能なペイロードを挿入する攻撃手法です。つまり、文字、数字、その他の文字を隠蔽することで、ユーザーには見えない悪意のあるコードをAIアシスタントに挿入するのです。LLMは以前からASCIIスマグリング攻撃や類似の手法に対して脆弱でしたが、Geminiのようなエージェント型AIツールは機密性の高いユーザーデータに広範囲にアクセスでき、自律的なタスクを実行できるため、脅威は高まっています。

研究者によると、「ユーザーの受信トレイにLLMが接続されている場合、隠しコマンドが埋め込まれたメールは、AIに受信トレイ内の機密情報の検索、連絡先情報の送信、そして標準的なフィッシング攻撃を自律的なデータ抽出ツールへと変換するよう指示する可能性があります。」ウェブサイトを閲覧するように指示されたLLMは、製品の説明に隠されたペイロードを発見し、悪意のあるURLをユーザーにフィードバックする可能性もあります。

CSS操作やGUI制限など、ユーザーの視覚情報と機械の読み取り情報のギャップを操作するために同様の手法を用いる手法は他にも存在します。この研究に参加したセキュリティ研究者は、GeminiはGrokやDeepSeekと同様にASCIIスマグリング攻撃に対して脆弱である一方、Claude、ChatGPT、Microsoft Copilotは何らかの入力サニタイズを実装することで、こうした脅威から保護されていることを発見しました。

私たちはこの研究についてGoogleにコメントを求めて連絡を取り、返答があったらこの記事を更新します。

Tom's Guideのその他の記事

• データ侵害でDiscordの顧客情報が盗まれる — 安全を保つ方法
• 大規模なデータ漏洩で600万人の買い物客の個人情報が流出 — 安全を保つには
• Unity が重大なセキュリティ欠陥を修正しました。ゲームとアプリを今すぐアップデートしてください。