2026/10/01 07:08
OpenAI、AIの非公開推論を狙う組織的な抽出を公表 再生経路を遮断
OpenAIは9月30日、AIモデルの非公開の推論を取り出そうとする組織的な活動を確認し、遮断したと発表しました。暗号化された推論データを別の会話に持ち込み、内容を再現させる手口も見つかっています。同社は、保存された利用者の会話やデータベースに直接アクセスされた事案ではないと説明しています。
7月に広がった抽出の試み
OpenAIによると、最初の活動は7月1日に観測されました。7月24〜25日には、4,000を超えるユーザーから、関連するパターンのリクエストが約16,000件に急増。調査を広げると、関連するプロンプトの活動は1万5,000を超えるユーザーの集団に及び、7月28日までに遮断したといいます。これらの数字は抽出の試行を表し、成功件数ではありません。
狙われたのは、モデルが課題を解く途中で使う非公開の推論です。OpenAIは、暗号化された推論を別の会話にコピーし、モデルに復号・転記させようとする方法を挙げています。独立した研究者からも、モデル間や会話の圧縮処理に関係する別の経路が報告され、同社は実在する問題として確認しました。
遮断策と、まだ分からないこと
OpenAIは、不正なアカウントの制限、登録・インフラの管理強化、出力を監視して保留する仕組みを実施したと説明します。さらに、別の利用者の暗号化された推論をすでに持つ人が、それを再生して内容を取り出せる経路を閉じました。これは保護策の一部で、あらゆる抽出手法がなくなったという発表ではありません。
同社は活動の中核をMoonshot AI関係者に帰属すると評価する一方、観測した行為のすべてが単一の実行者によるものかは不明としています。ユーザーの保存済み会話への直接侵入は報告していません。今後も追加の調査と対策を続ける方針です。
