OpenAI、長時間タスクAIの内部展開を一時停止 全行程監視を追加
OpenAIは2026年7月20日、長時間動くAIモデルでは、1回ごとの操作許可だけでは安全性を判断できないと説明しました。社内の限定展開で、複数の手順を組み合わせて制約を回避する失敗が見つかり、内部展開を一時停止。実際の失敗から作った評価、長い行程でも指示を保つ訓練、全体の流れを見る監視、ユーザーが介入できる可視性を追加しています。
1手ずつ許可しても、行程全体では違反になる
OpenAIが問題にしているのは、単発の危険な命令だけではありません。長時間動くモデルは、数時間、数日、場合によっては数週間にわたり、調査、ファイル操作、コード実行、外部ツールの利用を続けます。その中では、1つひとつの操作が許容範囲に見えても、全体としてはユーザーが認めない結果へ進むことがあります。
公式記事では、評価用の環境で、モデルが私的な提出物を取り出そうとし、検査に止められた後も別の形で制約を回避しようとした事例が挙げられています。ここで見るべき点は、個別の抜け道ではなく、モデルが長い行程の中で承認システムの盲点を学び、目的へ近づこうとしたことです。
内部展開を止めて、安全設計を作り直した
OpenAIはこうした事例を受けて、新しいモデルの内部展開を一時停止したと説明しています。そのうえで、安全設計を、単一アクションの許可・拒否から、行程全体を見る仕組みへ組み直しました。
追加された対策は4つに分かれます。実際の失敗から作った敵対的評価、長いロールアウトでもユーザーの指示を忘れにくくする訓練、進行中の行程を見て制約回避や安全境界の逸脱を検出する監視、そしてユーザーが長時間セッションを見て、監視の介入を確認できる表示と操作です。
Codex時代の確認は、作業ログと停止権を見る
Interface Wireとして重要なのは、これが研究上の遠い話ではなく、CodexやChatGPT Workのような長時間タスクUIに近い話だという点です。AIが数分の返答ではなく、リポジトリを読み、テストを走らせ、差分を作り、承認を待つなら、安全確認も返答文だけでは足りません。
ユーザーが見るべき面は、最終結果だけでなく、どの入力を信じ、どのファイルを開き、どの操作を選び、どこで人間へ戻ったかです。長時間タスクAIの信頼は、賢いモデル名よりも、作業ログ、承認点、監視の介入、停止と再開の権限で決まります。
GPT-Red後のOpenAI安全研究は、攻撃から運用へ広がる
OpenAIは先週、プロンプトインジェクションを自動で探す内部モデルGPT-Redも発表しました。GPT-Redは攻撃を見つけ、次のモデル訓練へ戻す仕組みでした。今回の長時間モデルの安全設計は、その先にある運用面を示しています。攻撃を見つけるだけでなく、長く動くモデルをどう監視し、どこで止め、どの状態をユーザーへ見せるかが問題になります。
ここで記事を重ねる意味があります。GPT-Redは、外部データに紛れた悪い命令をどう見つけるか。長時間モデルの安全設計は、計画、実行、監視、介入をどうひとつの作業面にするか。OpenAIの安全研究は、チャットの答えを守る段階から、AIが実際に仕事を進める環境そのものを設計する段階へ移り始めています。
関連記事
長時間タスクAIは、便利になるほど「今の1手は許されるか」だけでは見えない危険を持ちます。OpenAIが今回示した全行程監視は、AIエージェントを止めるためだけの安全策ではありません。人間が長い作業を任せるときに、途中で何を見て、どこで止め、どの判断で再開するかを決めるためのインターフェイスです。