ChatGPTが10代向けに年齢に応じた機能を展開中 - 知っておくべきこと

小学生3人の母親として、子供たちの成長を見守っています。世界は子供たちとほぼ同じ速さで変化しています。仕事でAIのテスト、再テスト、そしてレビューに日々を費やしているため、OpenAIが18歳未満のChatGPTユーザー向けに新たな安全対策を導入したというニュースには、少しため息をつきました。安堵のため息をつくと同時に、AIが進化を続ける中で、これから何が起こるのかを覚悟しました。

この記事から学べること

• 年齢予測システムを含むティーン向けChatGPTの変更点
• 10 代の安全に関するポリシーと、18 歳未満のユーザーに対してブロックされる内容。
• ペアレンタルコントロールとアカウントのリンク方法についての理解を深めます。
• 安全の優先順位と展開のタイミング。

OpenAI のティーン向け変更（13 歳以上）

ChatGPT の 10 代のユーザー向けに導入された新しい対策は次のとおりです。

• 年齢 予測システム: このツールは、ユーザーが 18 歳未満かどうかを実際に判断し、より厳格な安全ルールで設計された ChatGPT のバージョンにユーザーを誘導します。
• 年齢が不明な場合のデフォルトの制限: システムがユーザーの年齢を判別できない場合、慎重を期してユーザーを未成年者として扱います。
• ペアレンタルコントロール:保護者は、自分のアカウントをティーンのアカウントにリンクして、機能(メモリ、チャット履歴など)を無効化または制限したり、ティーンのユーザーが ChatGPT を利用できないように「ブラックアウト時間」を設定したり、ティーンのユーザーからの苦痛を伴う会話の兆候がシステムによって検出された場合に通知を受け取ったりするなどの設定を適用できるようになります。
• 会話制限： 10代のユーザーは会話が制限されます。つまり、露骨な性的な内容、軽薄な内容、自傷行為や自殺に関する会話はブロックされます。まれに、極端なケースとして、保護者と連絡が取れず、差し迫った危害がある場合、法執行機関に通報される可能性があります。

ティーン向けChatGPTが語る、子供たちとAIの未来

より強力な保護策の影響は、テクノロジー政策の決定をはるかに超えるものです。母親である私にとって、それは非常に深い意味を帯びています。それは、子どもたちに自由に探索し、自ら学び、必要な時に助けを求める機会を与えることと、デジタル空間における危害、特に目に見えない危害から子どもたちを守ることのバランスを取ることです。

チャットボットは数年前から登場していますが、私たちの生活に深く浸透しつつあるとはいえ、まだ比較的新しい領域です。これらのツールは完璧ではないことは周知の事実です。予期せぬ結果や欠陥が生じる可能性があり、脆弱な10代の若者にとってリスクは高まっています。既に訴訟が起こされています（例えば、16歳の少年がChatGPTのせいで自殺したと家族が主張しているケースなど）。

これらの安全対策は始まりであり、ついに誰かが、威圧的にならない程度に監視を実施することで、思春期の脆弱性と精神的健康の予測不可能性について考えていることを示しています。

私にとっての疑問は、どのようにすれば両者を尊重する形で実装できるのかということです。「年齢予測」はどのようにしてバイアスの強化を回避するのでしょうか？誤検知や誤検出はどのくらいの頻度で発生するのでしょうか？チャットボットが大人に警告を発するのではないかと心配するティーンエイジャーは、ChatGPTと話すことに安心感を抱くのでしょうか？

ティーン向けのChatGPTに期待すること

母親の視点から、これらの変化を意味のあるものにするために重要だと思うことは次のとおりです。

• 透明性と関与: 親と若者に、新しい制御が何を行うのか、いつ開始されるのかを明確に説明します。理想的には、若者がどのような情報が使用されているかを理解できるツールです (年齢予測の仕組みなど)。
• 柔軟性と年齢段階：すべてのティーンエイジャーが同じではありません。13歳と17歳では成熟度もニーズも異なります。コントロールはニュアンスに配慮し、ティーンエイジャーが成長し責任感を示すにつれて、より細かなコントロールを可能にするべきです。
• 懲罰的ではなく、支え合うこと：目標は、特にメンタルヘルスのリソースに関して、支援が受けられるようにすることです。単に会話を制限したり遮断したりするのではなく、必要に応じて人間による監督が必要です。もし10代の若者、私の子供に限らず、どんな10代の若者でも、苦しんでいる場合、システムが彼らを助けへと導くものであり、裁かれたり罰せられたりしていると感じさせるものではないことを望んでいます。
• 安全なデフォルト設定と強力なガードレール：デフォルトの体験は若いユーザーにとって安全であるべきですが、同時に、被害を最小限に抑えるための強力なガードレールも必要です。これは、継続的なテスト、監視、そして意図しない影響への対応を意味します。
• 保護者の教育と対話: 保護者は、コントロールの使い方、AI を使って何をするかを子供と話し合う方法を理解し、子供がオンラインで体験したことを安心して共有できるよう信頼関係を構築しながら、プロセスに参加する必要があります。

持ち帰り

私は大手テック企業の研究開発チームの方々と良好な関係を築いています。そして、OpenAIのようなテクノロジー企業には、悲劇が（再び）起こる前に、そして単に発生直後だけでなく、その前にセーフティネットを構築する道徳的責任があると心から信じています。OpenAIが現在、10代の若者を守るためのツールを提案し、プライバシー、自由、そして安全が必ずしも一致していないことを認識していることは喜ばしいことです。

Tom's GuideをGoogleニュースでフォローするか、お気に入りの情報源として追加して、フィードで最新のニュース、分析、レビューをお届けします。「フォロー」ボタンを忘れずにクリックしてください！

Tom's Guideのその他の記事

• 元テスラとグーグルのエンジニアが開発したAI検出の「ブラックライト」、パングラムをテストしてみた。その性能はいかに？
• ChatGPTとClaudeを7つの個人生産性テストでテストしました。明確な勝者はこれです。
• ナノバナナは、これらのバイラルトレンドでインターネットを席巻しました。これらの5つのプロンプトを試してみましたが、驚きました。