OpenAIは、ChatGPTを通じた暴力や危害を防ぐための取り組みとして、新しい安全性レポートの公開と、未成年向けの武器関連の制限強化を発表しました。この記事では、発表の要点と、ChatGPTを使う私たちにどう関係するのかをやさしく整理します。
何が発表されたか
- 2026年第3四半期に、差し迫った暴力の脅威について、法執行機関（警察など）へ200件を超える通報を行ったとしています。
- 「Community Safety Report（地域の安全性レポート）」を公開します。最初の報告は2027年の初めに、2026年後半分を対象として出し、以降は6か月ごとに更新する予定です。
- 過去の大量襲撃事件や加害者に関する質問への回答を、年齢や質問の理由にかかわらず、より控えめな内容にします。
- 最近のやりとりに暴力の兆候がある場合は、悪用されうる情報の提供により慎重になります。暴力に固執する会話は自動で終了することがあり、繰り返されるとアカウントが一時停止される場合があります。
- 18歳未満向けでは、武器やセキュリティシステムに関する実用的な情報を、悪意がなさそうな質問でも制限します。年齢予測の強化や、保護者への通知の拡大も含まれます。
これらの対策は、数週間のうちに順次提供が始まるとされています。
ポイント解説
「報告書を定期的に出す」という約束
今回の発表の柱の一つが、安全対策の効果を数字や事例で公開するレポートです。OpenAIは、暴力につながりかねない内容をどう見つけ、調べ、対応しているのかを説明するとしています。個人が特定されない形の事例や、新しい対策、関連するデータも盛り込む予定です。AIを使う側からすると、「安全のためにやっています」と言うだけでなく、中身を確認できる機会が増えるということだと考えられます。ただし、最初のレポートは2027年初めの予定なので、実際の内容はまだわかりません。
過去の事件についての質問はどう変わる？
これまでもChatGPTは、暴力の計画や実行を手伝う説明をしないように作られていました。今回はさらに、過去の大量襲撃事件の経緯を細かく再現するような回答を制限します。使われた武器や装備、その入手方法の詳細、被害の大きさを細かく比べる内容などが対象です。インターネット上に情報がある場合でも、ChatGPTはあえて詳しく答えないようにするという方針です。
一方で、事件を理解したい、被害者や地域への影響を知りたい、危険な兆候に気づく方法や再発防止について学びたいといった質問には、引き続き答えられるべきだと説明されています。つまり「知ること」を止めるのではなく、「真似や有名化につながりうる細部」を絞る、という考え方です。この制限は年齢や理由に関係なく、すべての利用者に適用されます。
会話の流れを見て慎重さを変える
単体では普通に見える質問でも、それまでの会話によっては意味が変わることがあります。OpenAIは5月に、過去の警告サインを短い事実ベースの要約として使い、後のチャットでより慎重に答える仕組みを紹介していました。今回はこれを発展させ、最近のチャットに暴力の兆候があれば、悪用されうる情報の扱いをより保守的にするとしています。
さらに、暴力や他人を深く傷つける考えに固執している様子があれば、ChatGPTがその場でチャットを自動的に終了できるようにする計画です。終了が複数回続いた場合は、アカウントを一時的に停止することがあります。精神保健や暴力防止の専門家と協力して検討しているとのことで、兆候を確実に見分ける方法や、いつどう介入するかは今後も改善を続けるとされています。
10代向けの保護が広がる
18歳未満向けには「ChatGPT for Teens」という、年齢に合わせた保護が用意されています。今回は、武器に関する情報の制限が加わります。悪意が見えない質問でも、暴力に悪用されうる武器やセキュリティシステムの実用的な情報は答えない方針です。一方で、10代が暴力を防いだり落ち着かせたりする方法を調べること、支援を求めること、信頼できる大人につながることには、引き続き使えるとしています。
年齢は、行動パターンなど複数の手がかりから18歳未満かどうかを推定する「年齢予測」で判断されます。OpenAIはこの仕組みを強化し、必要に応じて18歳未満向けの体験に移すとしています。成人なのに誤って移された場合は、年齢確認のパートナーであるPersonaを通じて、素早くプライバシーに配慮した方法で成人であることを確認できると説明されています。
保護者向けには、ChatGPTのアカウントを子どものアカウントとひも付けて、安全設定を一緒に管理できる機能があります。重大な自傷の懸念などで通知が届くことがあり、7月には、暴力に関する利用ルール違反でアカウントが停止された場合も通知されるようになりました。今後は、暴力について繰り返し話したためにアカウントを一時停止した場合の通知も導入予定です。
明日から試せる使い方
今回の発表は、新しい便利機能ではなく安全対策の話です。そのため、ChatGPTとの付き合い方のヒントとして、いくつかの場面を考えてみます。提供地域や料金は公式サイトで確認してください。
ニュースになった事件を「理解・予防」の視点で調べる
痛ましい事件のニュースを見たとき、ChatGPTには事件の細部ではなく、社会への影響や予防の観点から質問するのが向いています。元の発表でも、事件の理解、被害者や地域への影響、警告サインの把握、再発防止については学べるべきだとされています。
最近報道された痛ましい事件について、社会や地域にどんな影響があったのかを知りたいです。事件の細かい手口ではなく、周囲の人が気づける変化のサインや、同じような悲劇を防ぐために社会でできることを、わかりやすく整理してください。
家庭でAIの使い方ルールを話し合う
10代の子どもがいる家庭では、保護者向けの機能があることを知っておくと、話し合いのきっかけになります。ChatGPTに話し合いの下準備を手伝ってもらう使い方です。具体的な設定の操作は、公式の案内を確認してください。
中学生の子どもがAIチャットを使い始めました。叱るのではなく、安心して使えるようにしたいです。家族で話し合うときの切り出し方と、決めておくとよいルールの例を5つ挙げてください。困ったときに信頼できる大人に相談する大切さにも触れてください。
気持ちが張りつめたときに落ち着く方法を相談する
怒りやストレスで気持ちが強く揺れているときは、誰かを傷つける考えに向かうのではなく、落ち着く方法や相談先を考える使い方が合っています。発表でも、10代が支援を求めたり信頼できる大人とつながったりする目的の利用は続けられるとされています。ChatGPTは専門家の代わりではないので、深刻な場合は身近な人や専門の窓口に相談してください。
強い怒りで気持ちが落ち着きません。今すぐできる気持ちの切り替え方を3つ教えてください。また、信頼できる人に気持ちを伝えるときの言い方の例も教えてください。
どんな人におすすめか
- 中高生の子どもがChatGPTを使っている、または使い始めそうな保護者
- 学校や地域で、子どもとAIの関わり方を考える立場の教員や支援者
- 事件や社会問題について、ChatGPTで調べたり学んだりする機会がある人
- 回答が以前より控えめになったと感じたときに、理由を知りたい利用者
あわせて読みたい
まとめ
OpenAIは、地域の安全のために、レポートの定期公開、過去の襲撃事件に関する回答の制限、暴力の兆候への慎重な対応、10代向けの保護強化を打ち出しました。対策は数週間のうちに順次始まる予定で、実際の効果は今後のレポートで確認できるかもしれません。ChatGPTを使うときは、事件は「理解と予防」の視点で尋ね、家庭では保護者向けの機能も活用しながら、AIとの付き合い方を話し合ってみてください。
関連記事
出典: Community safety report and new protections for teens（OpenAI）
※この記事はAIを活用して作成しています。正確な情報は出典元をご確認ください。
コメント