Google Gemini for Workspace の欠陥をハッカーが悪用して、AI ツールを誤誘導し、ユーザーをフィッシング サイトに誘導する悪意のある命令を挿入する可能性があります。
Bleeping Computer の報告によると、この脆弱性は、一見完全に普通に見える電子メールの概要を作成するが、悪意のある指示や警告が隠されており、Gemini がメッセージの概要を生成するときに自動的に従うという仕組みです。
このプロセスは、Geminiへの目に見えない指示を含んだメールを作成することで機能します。HTMLとCSSコードを使用してメッセージ本文の末尾に指示を隠し、フォントサイズを0、色を白に設定します。この追加テキストには添付ファイルやリンクが含まれていないため、高性能なウイルス対策ソフトウェアやメールプログラムでも検出されず、潜在的な被害者の受信トレイに届く可能性が高くなります。
ターゲットがメールを開き、Geminiに内容の要約を依頼すると、AIプログラムはそこに隠された指示に自動で従います。ユーザーは、Workspaceの一部としてコンテンツを処理するGeminiの能力を信頼する傾向があり、このアラートは悪意のあるインジェクションではなく、正当な警告とみなされます。
昨年も同様の攻撃が報告されており、誤解を招くような応答をブロックするための安全策が講じられているにもかかわらず、この手法は全体として依然として成功しているため、現在も使用されています。
Bleeping Computerによると、Googleにこの種の攻撃への対策について問い合わせたところ、広報担当者はプロンプト・インジェクション攻撃に関するブログ記事を参照し、いくつかの緩和策が実装中、または近々導入される予定であると述べたという。また、Googleは、この攻撃が実際に発生したという証拠はないと述べた。
この脆弱性を発見したMozillaのGenAIバグバウンティプログラムのマネージャー、フィゲロア氏は、この脅威を防ぐためのいくつかのアイデアを提案しています。セキュリティチームに、本文に隠されたコンテンツを削除、自然化、または無視させるように指示する、といったものです。あるいは、Geminiで緊急メッセージ、URL、電話番号をスキャンし、それらにフラグを付けてユーザーによる追加レビューを促すフィルターを導入することも有効です。
最新ニュース、最も注目されているレビュー、お得な情報、役立つヒントにすぐにアクセスできます。
今のところ、Gemini でメールを要約する際には、何が隠されているか分からないため、注意が必要です。Google がこの新しいタイプの攻撃に対する修正を早急にリリースしてくれることを期待しています。
Tom's Guideのその他の記事
- 悪質なChromeのインストールで約200万人が被害に遭う ― 今すべきこと
- この危険なバンキング型トロイの木馬は、悪意のある活動を隠蔽するために定期メンテナンスを利用しています。騙されないでください。
- 新たなAndroid攻撃で、自分のスマートフォンが危険にさらされる可能性 ― 知っておくべきことすべて
アンバー・ブーマンは、Tom's Guideのシニアセキュリティエディターとして、ウイルス対策ソフトウェア、ホームセキュリティ、個人情報窃盗などについて執筆しています。彼女は長年、オンラインとオフラインの両方における個人のセキュリティに関心を持ち、格闘技と刃物にも造詣が深いです。20年以上にわたるテクノロジージャーナリズムの経験を持つアンバーは、PC World、Maximum PC、Tech Hive、Engadgetなど、スマートフォンからスマート搾乳器まで、あらゆるトピックを網羅した記事を執筆しています。
