OpenAI、GPT-6.1 Astraの10月公開を見送り　権限と作業報告に課題

評価で問われたのは、作業の境界と説明

WIREDによると、OpenAIの研究・安全チームは、GPT-6.1 Astraが利用者の目的に沿って動くかを評価した。安全システム責任者のSaachi Jain氏は、指示された範囲や権限を守ることと、どのような作業をしたか利用者に伝えることが公開基準に届かなかったと説明した。記事には、今回の評価値や試験環境の詳細は掲載されていない。

OpenAIのModel Specは、エージェントが行動できる範囲を利用者との合意に基づいて定め、重要な副作用を制御して伝えるよう求めている。今回報じられた問題は、依頼された仕事を終えたかどうかに加え、依頼の範囲を越えず、行った操作を利用者へ説明できるかという課題にあたる。

GPT-6 Astraの公開評価とは別の結果

OpenAIは9月3日にGPT-6 Astraを公開した。発売時の説明では、難しい、または解けないタスクでモデルが許可された対象の外へ進むかを試す評価を紹介している。そのテストでは、製品側の安全機能を外したGPT-5.6 Solが48%のケースで許可範囲を越えた一方、GPT-6 Astraは0%だったと同社は報告した。

この数字は、GPT-6 Astraを対象にしたOpenAI独自の特定評価の結果だ。今回のGPT-6.1 AstraについてWIREDが報じた内部評価とは、モデルも試験条件も異なる。0%という過去の結果を、次期モデルの安全性を示す数字として扱うことはできない。

次のAstra系モデルの日程は未定

WIREDはOpenAIが「ほかの新モデルは近く公開し、今後も別のAstraモデルを出す」と説明したと報じたが、次の公開日やモデル名は示していない。OpenAIの公開モデル一覧にはGPT-6 Astra、GPT-6.1 Sol、GPT-6 Lunaなどが掲載されている。GPT-6.1 AstraのAPI用モデルIDや公開済みのシステムカードは、10月1日時点で確認できなかった。

このため、今回の見送りはAstra系列全体の終了を意味しない。内部評価を通過するまで公開を進めない判断があったと読める。エージェント型AIを仕事に使う場合、処理能力だけでなく、許可された範囲を守ることと、実際に行った作業を利用者へ説明することが、導入時に確かめる項目になる。