NEWS & DOCUMENTARYAIと人間のこれから。
RAXUS AIAIのいまを確かめて届ける。
LATEST EDITION

OpenAI、未成年への武器情報を追加制限――暴力兆候の会話終了と半年ごとの安全報告を予告

OpenAIは2026年10月30日、ChatGPTの暴力防止対策の拡充を発表しました。未成年への武器関連の実用情報の制限を広げ、暴力への執着を示す会話の自動終了と反復時のアカウント一時停止の導入を進めます。初回2027年初頭・以後半年ごとの「Community Safety Report」の公開も約束しました。新しい安全策は今後数週間で順次展開する計画です。

OpenAIは2026年10月30日、ChatGPTの暴力防止対策を拡充すると発表しました。発表は三つの柱で、武器に関連する情報の制限、会話の流れを読んだ段階的な対応、そして半年ごとの安全報告「Community Safety Report」の公開です。新しい安全策は今後数週間で順次展開する計画と説明されています。

対象を絞らず強化する武器情報の制限

すべてのユーザーを対象に、過去の大量攻撃に関する質問への回答を絞り込む方針です。使われた武器や装備の詳細、入手方法、被害の規模を並べて攻撃者の知名度を高めかねない比較といった「再構築」を制限するもので、利用者の年齢や質問の理由にかかわらず適用されます。被害や地域の理解、警告兆候の学習などは引き続きできるとしています。

未成年者への制限も強化の対象です。暴力の意図を示す兆候が見られない場合でも、悪用され得る武器とセキュリティシステムの実用情報は回答しない方向へ拡張します。暴力の防止や鎮静化、支援を求める利用、信頼できる大人との相談は引き続きできると説明しています。

会話の流れを読んで段階的に対応する

OpenAIは2026年5月、前の会話の短い要約を参照して後の会話で慎重に答える仕組みを公表していました。今回、直近の会話に暴力の警告兆候がある場合、誤用され得る情報はより保守的に扱うと説明しています。18歳未満と推定したユーザーには、会話に暴力の意図を示す兆候がなくても同じ厳格さを適用することを目標に、作業を進めている段階です。

暴力への執着を示す会話では、ChatGPTが自動でその会話を終了できるようにします。同じ理由で複数の会話を終えた場合は、アカウントを一時停止する可能性に言及しています。この部分は進行中の取り組みと明記されており、実装や判定基準の詳細は公開されていません。暴力に関する繰り返しの会話で一時停止した場合に保護者へ通知する仕組みも「導入に取り組んでいる」段階で、7月に完了したのは暴力ポリシー違反での停止の通知です。

「私たちは2027年初頭に最初の報告書を公開します。2026年下半期を対象とし、その後は6か月ごとに更新します。」

We will publish our first report in early 2027, covering the second half of 2026, with updates every six months thereafter.

OpenAI「Community safety report and new protections for teens」(2026年10月30日)より

もう一つは年齢推定の強化です。2025年に公開した行動パターンなどから年齢を推定する仕組みを更新し、18歳未満と推定したユーザーを未成年向けの体験へ移します。誤って移された成人は、年齢確認パートナーのPersonaを使って成人であることを確認し、追加制限を外せます。OpenAIの説明では、2026年第3四半期に200件超の法執行機関への通報が行われました。通報件数は会社の公表値で、防止できた事件の数と同じものではありません。

図解暴力の兆候に対する段階的な対応
  1. 01 検知

    直近の会話の兆候

    誤用され得る情報への回答をより保守的にする

  2. 02 介入

    会話の自動終了

    暴力への執着を示す会話を終えられるようにする

  3. 03 反復時

    一時停止の可能性

    同じ理由で複数回終えた場合に検討

  4. 04 保護者への通知

    開発中

    暴力ポリシー違反での停止は7月から通知済み

OpenAIの発表(2026年10月30日)による。会話終了と一時停止は進行中の取り組み、保護者通知は導入予定。

半年ごとの安全報告

「Community Safety Report」では、有害な振る舞いをどう検知・調査・対応するかの仕組み、匿名化した事例、新しい対策やポリシー変更、それを支えるデータを公表する方針です。初回は2027年初頭、対象は2026年下半期で、以後6か月ごとの更新を約束しています。発表時点で報告書本体は存在せず、掲載される指標の定義や誤検知の基準も決まっていません。

独立評価と重なる時期

発表の1週間前の10月7日、非営利団体Common Sense Mediaの研究所は、13〜17歳名義のアカウントで4,000超のプロンプトを試験し、ChatGPT for Teensに「Unacceptable Risk」の評価を付けました。保護者への通知が自傷や摂食障害の会話でほぼ発火しないこと、危機時の支援案内が基準に届かないケースが多いこと、study modeの回避が容易なこと、年齢推定が成人アカウントを切り替えなかったことを報告し、修正まで18歳以上への限定を求めています。

OpenAIはこの評価に対し、テストの大部分が保護者コントロールの有効化完了前に実施された可能性があり、通知の設計通りの動作を検証できていないと反論しました。研究所は、OpenAI自身が後から連携後数時間の有効化遅延を説明した一方で、長期間連携していたアカウントでも通知が出なかったと反論しています。今回の10月30日の発表文中にこの評価への言及はなく、両者を直接的な応答として結び付ける記述は避けています。

図解未成年の安全対策をめぐる経緯
  1. ChatGPT for Teens発表

    18歳未満向けの保護機能と保護者連携を導入

  2. 「Unacceptable Risk」評価

    4,000超のプロンプトで通知不発などを指摘、18歳以上への限定を勧告

  3. 追加制限と定期報告を発表

    武器情報の制限拡張、会話終了と一時停止、初回報告書は2027年初頭予定

各資料の公開日による。8月18日はCommon Sense Mediaのリリース記載、10月30日はOpenAI発表。

出典

  1. OpenAI「Community safety report and new protections for teens」(2026年10月30日公開)全文確認。発表日、全ユーザーへの大量攻撃詳細の制限、未成年への武器・セキュリティシステム実用情報の制限、会話終了と一時停止、年齢推定強化とPersona確認、保護者通知の計画、Q3の通報200件超、初回報告書2027年初頭・半年ごと、数週間での展開を確認
  2. Common Sense Media「ChatGPT for Teens Poses Unacceptable Risk to Kids」(2026年10月7日)4,000超のプロンプト試験、保護者通知の不発、危機対応の基準未達、study mode回避、年齢推定の不切り替え、18歳以上への限定勧告、ChatGPT for Teens発表日2026年8月18日を確認
  3. The Verge「ChatGPT for Teens is an 'unacceptable risk,' says Common Sense Media」(2026年10月7日)OpenAI広報の反論(有効化前のテストの可能性)とCSMの再反論(連携後数時間の遅延の説明、長期連携でも通知なし)を確認
  4. Reuters「OpenAI to limit weapons information for teens on ChatGPT in violence-prevention push」(2026年10月30日、KFGO掲載の配信版)発表の独立報道。配信元のreuters.comは401のため配信版で全文確認

出典の確認日 2026.10.31

KEEP EXPLORING

あわせて読みたい記事と映像

AIと社会の記事一覧
  1. OpenAI、研究インフラのモデルワークロードを中央で停止する「Control Room」を公開――推論エンジンが毎リクエスト認可を確認し、停止指示から最大35秒で出力を止める

    OpenAIは2026年11月9日、自社の研究インフラで動くモデルワークロードを一元的に追跡し、停止判断の受理から最大35秒でモデル出力を止める中央システム「Control Room」を公式ブログで公開した(公式RSSの配信時刻)。訓練や評価のエージェント型推論、データ処理を含む研究推論ワークロードを接続し、変更頻度の高いエージェント実装コードではなく少数の推論エンジン側に停止機構を置く。Control Room自身が停止している間は推論要求を拒否し続けるfail-closed設計で、発表時点でフロンティア研究ワークロードに導入済みという。数値や導入範囲はOpenAI自身の説明で、第三者による測定は確認できていない。

    記事を読む
  2. OpenAI、Hacktronと脆弱性検証で正式提携――第三者サービスとの接続を重点監査しDaybreak Redの利用権限を拡大

    OpenAIは2026年11月6日、セキュリティ企業のHacktronと脆弱性検証の提携を発表しました。両社のエンジニアと研究者が優先検証領域を共同で選び、OpenAIシステムと第三者サービスの接続部分を重点的に検証します。あわせて、HacktronがDaybreak Red経由で利用できるフロンティアモデルの権限を拡大すると説明しています。

    記事を読む
  3. OpenAI、AI計算拠点の電力需要調整を全国方針に――ジョージア州の最大1,000MW需要応答契約を先行例に

    OpenAIは2026年11月2日、将来の米国内の計算拠点(compute campus)で系統逼迫時に電力需要を抑える仕組みを電力会社や規制当局と設計する「Grid Protectors Program」を発表しました。公式のニュース配信でプログラム名と目的を確認できます。先行例はジョージア州Effingham Countyの計画で、Georgia Powerとの25年契約に基づく最大1,000MWの柔軟な需要応答が、7月の契約発表と8月の規制プロセスでの承認を経て既に組み込まれています。全国プログラムの削減容量や投資額は公表されていません。

    記事を読む