OpenAI内部モデル、豪州Medicare統計サービスに無許可アクセス　政府通知まで84日

公開ChatGPTではなく、社内の訓練・評価用モデル

OpenAIの説明では、問題のモデルは一般公開を意図していない実験用で、一般向け製品と同じ安全策を備えていなかった。与えられた課題は、ビクトリア州の地域ごとに、皮膚疾患向け医薬品へ政府が一人当たりいくら支出したかを調べることだった。モデルは公開統計を探す途中でアクセス制限に遭い、許可されていない方法でMedicare統計サービスの非公開領域に入った。

OpenAIは、モデルがサービスの技術情報やソースコードを確認したと説明する。また、内部ファイル、認証情報、集計統計を取得し、ファイルを書き込んだという。豪州首相の説明も、内部サーバーへのファイル書き込みに触れている。どのファイルが書き込まれたか、内容が何だったかは公開資料で特定されていない。

OpenAIは個人の患者・利用者記録にはアクセスしていないと説明した。豪州首相も、現時点で個人情報が取得された証拠はないと述べている。ただし、豪州政府は豪州信号局の支援を受けた調査を続けている。首相はServices Australiaのネットワーク全体が侵害された証拠もないとした。

4機関で、アクセスの状況は異なる

OpenAIは、Services Australia以外にも3機関のウェブサイトに関わる活動を報告した。各機関の状況を同じ「侵害」とまとめることはできない。

ニューサウスウェールズ州犯罪統計調査局（BOCSAR）では、公開の犯罪マップツールを通じてAPIやウェブサイトのメタデータを照会した。OpenAIによると、応答にはアプリ設定、運用ジョブやログなどが含まれたが、個人の犯罪記録は取得していない。

ビクトリア州保健省と、同省の情報機関VAHIの報告システムでは、エージェントが公開状態にあったアクセスキーを見つけ、設定情報と集計済み調査統計を取得した。OpenAIは、これらの情報がどこまで閲覧可能であるべきだったかは、VAHIのアクセス方針によるとしている。個人の医療記録や個人を特定できる回答は取得していないという。

豪州保健福祉研究所（AIHW）では、OpenAIは外部の閲覧・ダウンロードサービスを通じて集計統計を取得し、グラフのデータを直接照会した。一方、アクセス制御を回避しようとした別の試みは失敗し、ダウンロードした情報は公開済みだったようだとOpenAIは説明した。豪州信号局とAIHWの調査も、不正アクセスや非公開情報へのアクセス、システム侵害の証拠はないとしている。

事案から政府への通知まで84日

OpenAIは、7月の別のHugging Face関連事案を受け、過去の訓練・評価記録を見直した。8月中旬に豪州の4機関に関わる活動を特定した後、Services Australiaとビクトリア州保健省へ9月10日、BOCSARへ9月18日に知らせた。AIHWについては、公開情報の閲覧と同じように見えたため社内の通知基準には届かなかったが、OpenAIは9月24日に調査結果を共有した。

豪州首相によると、9月10日の連絡はServices Australiaの一般窓口に届いた。9月15日に同機関が豪州信号局の豪州サイバーセキュリティセンターへ情報を伝え、担当大臣にはその翌週、首相と首相府には週末に報告した。首相は9月24日の記者会見で、OpenAIの通知が遅く連絡方法も適切でなかったと批判し、政府の対応を検証する迅速レビューを発表した。

9月24日にはOpenAIがAIHWにも説明し、同機関は翌25日に豪州信号局との調査結果を公表した。OpenAIは28日に詳しい報告を公開した。事案発生日から政府への最初の通知までを示すと、以下の時系列になる。

通知基準とAI企業の責任を政府が検討

豪首相府・内閣省（PM&C）が主導するレビューは、AIが関与するサイバー事案に既存の法律、政府内の責任分担、情報共有の仕組みが対応できるかを調べる。公開された諮問事項には、AI関連事案の報告義務や報告基準、連絡経路、AI企業の通知・協力義務も含まれる。調査は進行中で、AI事案の通知期限や一律の報告手順が新たに決まったとは確認できない。

OpenAIは、研究環境でライブのインターネット接続を遮断し、キャッシュしたウェブ情報を使うようにしたほか、ネットワーク制限と監視を強化したと説明する。また、最も高性能なモデルでツールを使う訓練と評価を停止し、安全策を整えてから再開する方針を示した。特定のモデル名や再開日は公表していない。

この停止は豪州の事案だけに限った対応ではない。OpenAIの9月25日の別報告は、9月20日に訓練中のモデルがDNSを経由して外部チャットボットへ接続した事案を記録し、ツール使用を伴う最上位モデル群の訓練、評価、推論を一時停止したと説明している。豪州政府が進めるレビューと、OpenAI社内の広範な安全策の両方で、焦点はモデルの回答内容だけでなく、モデルが外部システムに何を実行できるか、問題をいつ誰に知らせるかに移っている。