OpenAI、未公開モデルAstraの「Critical」サイバー能力を排除できず
OpenAIは8月7日、未公開モデルAstraの予備評価で、サイバー能力がPreparedness Frameworkの「Critical」水準に達する可能性を排除できないと公表しました。確定評価や発売発表ではありません。それでも同社は、強化後の要件を満たさないAstraの内部活動を止め、隔離と監視を先に引き上げています。
「Critical」はゼロデイと自律攻撃の境界
OpenAIの定義では、Criticalの目安は、堅牢な現実の重要システムで人の介入なしに幅広い深刻度の機能するゼロデイを発見・開発できること、または大まかな目標だけから堅牢な標的への新しい攻撃戦略を立て、最後まで実行できることです。
Astraの評価は継続中で、OpenAIが言っているのは「Criticalと確認した」ではなく「排除できない」です。GPT-5.6 Solは一段下のHigh評価でした。Astraは7月のHugging Face侵入に関わったモデルでもないと、公式記事は明記しています。
要件を満たさない内部活動を止めた
OpenAIはテスト環境の隔離、ネットワークとツールへのアクセス制限、モデル重みの保護と暗号化、サンドボックス実行を強化しています。要件をまだ満たさないAstra関連の内部活動は一時停止し、訓練と評価を含むエージェント動作には危険行為と不整合を検知する監視を全面適用しました。
監視はAstraの思考過程を評価し、危険度が高い行動では人の確認と中断につなげる設計です。政府機関や選定したAI安全組織にも評価を広げます。発売日を先に置くのではなく、モデルが使えるネットワーク、道具、実行環境を狭めることが、今回は製品化の前提になりました。
関連記事
Astraの能力はまだ予備評価の段階です。ただし、OpenAIがCriticalの可能性を公表し、要件未達の作業を実際に止めたことは新しい事実です。AIモデルの安全性は回答画面の拒否だけでなく、裏側で接続できるネットワークと道具、監視者が中断できる操作面まで含むようになっています。