Googleはユーザーの安全を守るためにAIを活用し始める。その方法とは？

Googleは、詐欺行為を阻止するための取り組みに特化してレポートを発表しました。「検索における詐欺対策」と題されたこのレポートでは、このテクノロジー大手がAIを駆使して様々な方法で詐欺対策に取り組んでいる様子が詳細に説明されています。

こうした技術は、Google 検索だけでなく、Chrome や Google 独自の Pixel スマートフォンのソフトウェアにも見られます。

では、Googleは詐欺からユーザーを守るためにどのような対策を講じているのでしょうか？レポートでは、いくつかの主要な分野に分けて解説しています。

Google検索詐欺

Google は、AI が毎日何億もの詐欺検索結果を検出しブロックするために使用されてきたと説明しています。

報告書によれば、Google は最近これにさらに資金を投入し、AI 分類器を改良した結果、発見されブロックされる詐欺ページの数が 20 倍に増加したという。

AI が進歩するにつれ、Google はウェブ上の大量のデータを分析し、詐欺キャンペーンを特定したり、詐欺の初期段階を検出したりできるようになりました。

Googleは報告書の中で、航空会社のカスタマーサービス担当者を装い、助けを求める人々を騙す詐欺が増加している例を挙げています。同社は、この問題を既に80%以上削減したと主張しています。

Chromeでより安全に検索

Googleは「強化保護モード」と呼ばれる機能を導入しました。Googleによると、これは最高レベルの保護機能です。

デスクトップ版をご利用の方には、Googleが開発したAIモデル「Gemini Nano」を導入し、オンライン詐欺に対する防御層を強化しています。これにより、危険なウェブサイトに関する洞察が即座に得られ、新たな詐欺からユーザーを守ります。

ここで AI モデル、特にこれほど大規模なモデルを使用することで、Google はより複雑な Web サイトでも変化する詐欺を予測し、対処できるようになります。

Androidの詐欺通知

Android端末のGoogle Chromeでは、ウェブサイトからの通知を設定できます。しかし、これらの通知は便利なものやお気に入りのサイトからのものである一方で、詐欺のような通知が紛れ込んでくることもあります。

GoogleはAIを活用した警告システムを追加しました。AIモデルが疑わしい通知を検知すると、警告が表示され、配信停止またはコンテンツ閲覧のオプションが表示されます。警告が不要であれば、引き続き通知を受け取るか、完全に削除するかを選択できます。

Google スマートフォンでの通話とメッセージ詐欺

Googleが詐欺評価で挙げている最後のポイントは、Google Pixelデバイスに関するものです。電話やテキストメッセージによる詐欺は、これまでも頻繁に発生しています。一見普通のことのように見えますが、すぐに詐欺へと発展してしまうのです。

これらのスマートフォンに搭載された「詐欺検出」という新機能は、ユーザーをこうした問題から保護します。

Googleはこの機能の仕組みについてやや曖昧な説明をしていますが、既存の詐欺対策機能の進化版と言えるでしょう。この機能により、Googleは詐欺と思われる電話を識別し、詐欺の可能性があるテキストメッセージや電話の送受信時に画面に通知を表示します。

これに AI を適用することで、Google はユーザーが詐欺の被害に遭う可能性がある場合をより適切に学習できるようになります。

Tom's Guideのその他の記事

• この小さなプロンプトの変更により、ChatGPTははるかに便利になります。その方法は次のとおりです。
• LinkedInの新しいAI機能を使って夢の仕事を探してみた - 結果はこうだった
• 無料で独自のAIモデルを作成して実行する方法