XはAIボットにファクトチェックをさせているが、それが裏目に出る可能性がある理由はここにある

イーロン・マスクのソーシャルメディア・プラットフォーム「X」は、誤情報との戦いで率先して行動している。コミュニティノートを書く権限を人工知能に与えているのだ。コミュニティノートとは、拡散した投稿に文脈を付け加える、事実確認のための短い文章のことである。

最終的な決定権は依然として人間にあるものの、この変化によって、オンラインで真実が監視される方法が変化する可能性がある。

何が起こっているのか、そしてそれが X (旧 Twitter) をスクロールする人にとってなぜ重要なのかを説明します。

実際に何が変わるのでしょうか?

Xは現在、AIボットがコミュニティノートを作成できるプログラムを試験的に運用しています。サードパーティの開発者はこれらのボットの開発を申請することができ、AIが一連の「練習ノート」テストに合格すれば、公開投稿にリアルタイムのファクトチェックコンテンツを送信できるようになる可能性があります。

人間によるレビューは今後も継続されます。 投稿にコメントが表示される前に、多様な実ユーザーグループから「役に立つ」と評価され、適切な審査を受ける必要があります。Xのコミュニティコメントシステムは当初からこの仕組みを採用しており、ボットが加わっても（今のところは）そのまま残っています。

目標はスピードと規模です。現在、毎日何百もの人間が書いたメモが公開されています。

しかし、AI によってその数字ははるかに高くなる可能性があり、特に大きなニュースが報道される際には、誤解を招く投稿が人間が追いつけないほど速く拡散する可能性があります。

この動きが重要な理由

AIの正確性は信頼できるのでしょうか？確かに、ボットは誤情報を迅速に検出できますが、生成AIは完璧とは程遠いものです。言語モデルは幻覚を起こしたり、語調を誤って解釈したり、情報源を誤って引用したりする可能性があります。だからこそ、人間による投票レイヤーが重要なのです。しかし、AIが作成したメモの量が査読者の負担を増大させれば、誤った情報が紛れ込んでしまう可能性があります。

コミュニティベースのファクトチェックを導入しているプラ​​ットフォームはXだけではありません。Reddit、Facebook、TikTokも同様のシステムを検討しています。

しかし、こうしたメモの作成を自動化するのは初めてのことであり、私たちがボットへの信頼を手放す準備ができているかどうかという、より大きな疑問が生じます。

マスク氏は、自身の見解とシステムが衝突した際には公に批判してきた。AIをプロセスに組み込むことは、リスクを高める。誤情報との戦いを加速させる可能性もあれば、偏見や誤りを生み出す新たな媒介物となる可能性もあるからだ。

これはいつ開始されますか? また実際に機能しますか?

AI Notes機能はまだテスト段階だが、X社によれば今月後半に展開される可能性があるという。

これを機能させるには、透明性が鍵となり、人間とボットが連携するハイブリッドなアプローチが求められます。コミュニティノートの強みの一つは、上から目線や企業的な印象を与えないことです。AIはそれを変えることができるかもしれません。

調査によると、コミュニティノートは誤情報の拡散を最大60%削減します。しかし、スピードは常に課題でした。AIによるスケールアップと人間による監視を組み合わせたこのハイブリッドアプローチは、新たなバランスを実現する可能性があります。

結論

X は、他の主要プラットフォームが試みたことのないことを試みています。つまり、人間の要素を（完全に）排除することなく、AI でコンテキストを拡張することです。

成功すれば、オンライン上で真実を維持する新たなモデルとなる可能性がある。失敗すれば、プラットフォームは混乱を招いたり、偏った意見で溢れかえる可能性がある。

いずれにせよ、これはフィードに表示される情報の将来を垣間見ることができ、AI をどの程度信頼できるのかという疑問を抱かせるものです。

Tom's Guideのその他の記事

• 私は仕事、スケジュール、受信トレイの管理にAIを信頼しているが、この用途には決して使わない。
• これらの5つの迅速なアップグレードにより、私のAIビデオは基本的なものから映画的なものに変わりました
• 私はこれらの5つのChatGPTプロンプトを使って、誰よりも早くプライムデーのセールを発見しました