2026/10/31 07:24

ChatGPT、未成年への武器関連回答を制限へ　全利用者の事件詳細も抑制

OpenAIは10月30日、ChatGPTの暴力に関する応答をさらに制限すると発表しました。過去の大量殺傷事件の詳細な再現は年齢を問わず抑え、18歳未満には武器や安全設備に関する実用情報も一段と制限します。対策は今後数週間で展開を始める予定で、全機能がすでに切り替わったという発表ではありません。

全利用者と未成年で制限の範囲が違う

全利用者向けには、過去の大量殺傷事件で使われた武器や装備、入手方法、被害規模を詳しく比較する回答を絞ります。事件の背景、被害者への影響、予防や警告の兆候について質問することまで禁じる説明ではありません。

未成年向けには、暴力の意図が見えない質問でも、武器や安全設備に関する実用的な情報を制限します。OpenAIは年齢推定を継続的に見直し、18歳未満と判断した利用者を未成年向けの体験へ移すと説明しています。成人が誤って分類された場合には、年齢確認で解除できる経路も設けています。

OpenAIは、会話に深刻な暴力の兆候が見える場合にChatGPTが会話を自動終了できる仕組みも開発中です。同じ理由で複数回終了したアカウントは一時停止する可能性があるとしています。親への通知も検討段階です。これらを、すでに全面運用中の機能とは扱えません。

また、暴力防止などに関する初の「Community Safety Report」を2027年初めに出し、その後は半年ごとに更新する計画です。2026年後半を対象に、安全策の効果や対応例を共有するとしていますが、報告書はまだ公開されていません。

変更の読みどころは、既存の暴力禁止方針に加え、年齢と質問内容で回答の細かさを変える点です。実際の提供状況は今後数週間の展開で確かめる必要があります。