セキュリティ企業Eclypsiumは2026年10月29日、15ページの研究報告書「Trusted AI Requires Trusted Infrastructure」とNVIDIAとの共同発表を公開し、AI推論サーバーの特権的なインフラ構成要素を通じて、実行中のモデル状態を保存済み成果物の検証をすり抜けて変更できることを制御された環境で実証しました。NVIDIA公式ブログも同日、この研究を紹介し、モデルファイル・ハッシュ・署名がすべて有効なまま、メモリー上で動くモデルが別の振る舞いをしたと説明しています。研究はNVIDIAと調整のうえ公開されたもので、攻撃を受けた利用者が存在するとの報告はありません。
「NVIDIAはEclypsiumと組み、侵害されたAIインフラがモデルとその推論にどう影響し得るかを、保存済みモデルの完全性検知に検出されないまま示した。モデルファイル、ハッシュ、署名はすべて有効なまま、メモリー内で動いているモデルは異なる振る舞いをした。」
NVIDIA partnered with Eclypsium to demonstrate how compromised AI infrastructure could affect a model and its reasoning while remaining undetected by stored-model integrity checks: the model file, its hash and its signature all remained valid while the model running in memory behaved differently.
GH200での実証の内容
実証はNVIDIA GH200(Grace Hopper)試験機とBlueField DPUの組み合わせで行われました。テスト構成では、モデルがメモリーへロードされて応答を始めた後、DPU側からPCIe越しのDMA読み書きでホストメモリーとGPUメモリー(HBM)に到達し、対象の重みをその場で書き換える。テスト構成のIOMMUはパススルー、PCIe隔離は緩い設定で、報告書はこれがLinuxの既定設定ではないと明記したうえで、性能調整の選択肢として使われ得ると説明しています。管理面にはOpenBMCのIPMIが使われていた。書き換えの実験には2種類あり、benignなLoRAアダプターをメモリー上で悪性のテスト用アダプターに置き換える方法と、LoRAを選択したベースモデル重みにマージしたうえで重みそのものをDMAで置き換える方法です。モデル層の走査は約3GB/s、対象の書き換えは一般に1分未満で完了し、どちらも制御された実験の処理指標であって、実運用での侵入時間や攻撃成功率ではありません。
- 01 特権要素への到達
DPU・BMC・管理面
テスト構成ではOpenBMCのIPMI経由でDPUへ到達。報告書は管理面の既知の脆弱性事例を挙げ、帯域外管理も資産管理の対象にするよう述べる(CVEは本文に記載)
- 02 DMA経路の成立
IOMMUパススルー+緩いPCIe隔離
テスト構成ではIOMMUのパススルー設定と緩いPCIe隔離により、DPUからホスト・GPUメモリーへの直接DMAが可能。Linuxの既定ではなく、強い隔離では同じ経路は使えなかった(報告書)
- 03 メモリー上の重みを書き換え
走査約3GB/s・書き換え1分未満
モデルロード後にDMA読み書きでLoRAアダプターまたはベース重みを置き換え。ディスク上のモデル・コンテナ・ハッシュ・署名は無改変で、元の値への復元も可能(報告書)
- 04 検知をすり抜ける
保存検証は正常のまま
署名・ハッシュ検証はディスクから読む時点で行われ、推論中のHBM上のテンソルは再測定されない。精度・遅延・テレメトリーは通常範囲内に見える(報告書の説明)
- 05 防御側の対応
DPU上の実行時監視と隔離強化
EclypsiumはDPU上で動き、メモリー内の重みを封印済み基準値と暗号学的に照合する監視を実装したと報告。NVIDIAはBlueFieldとOpenShell、Sentry、機密計算による隔離と監視を説明
Eclypsium研究報告書(15ページ、2026-10-29公開、全文確認)とNVIDIA公式ブログ(同日公開)の記載による。走査速度・所要時間は制御された実験の値。実証は一つの実装であり、現実の侵害や全構成への当てはまりを示すものではない。
成立条件は設定に依存する
このDMA経路は、テスト構成がIOMMUパススルーと緩いPCIe隔離にあったために成立したもので、報告書は強いDMA隔離とIOMMU設定があれば同じ直接メモリーアクセスは使えなかったと明記しています。確認ポイントとして、IOMMU翻訳の有効化(iommu.passthrough=1やiommu.strict=0は保護が無効・弱体化の兆候)、DPUのポートでPCIe ACS(Access Control Services)のP2P Request RedirectとTranslation Blockingの有効化、ATS(Address Translation Services)の無効化または上流での遮断を挙げ、能力の存在と制御ビットの有効化は別物だと注意を促している。性能のために緩い設定を使う場合は、文書化された期間限定のリスク受容として扱うべきだとしています。NVIDIA側は、BlueField-4でIOMMUとPCIe隔離の保護が強制されていればホストメモリーへのアクセスは許可された領域に制限され、実証で使われた無制限のDMA経路は塞がれると説明しています。
テスト構成
- メモリー隔離
- IOMMUパススルー、緩いPCIe隔離(既定ではなく性能調整の選択肢)
- DMA直接経路
- DPUからホスト・GPUメモリーへのDMA読み書きが成立
- 報告書の位置付け
- 実証で使用。管理面はOpenBMCのIPMI
強い隔離構成
- メモリー隔離
- IOMMU翻訳有効、デバイスごとに分離されたドメイン、ACS有効、ATS無効または上流遮断
- DMA直接経路
- 同じ直接メモリーアクセス経路は使用できなかった
- 報告書の位置付け
- 推奨される確認ポイント。BlueField-4で保護強制時は許可領域に制限(NVIDIAの説明)
Eclypsium研究報告書とNVIDIA公式ブログの記載による。設定の詳細(IOMMU、ACS、ATS)は報告書が挙げた確認項目であり、環境ごとの性能影響は各自の検証が必要と報告書は述べている。
公表された防御策と留意点
Eclypsiumは、DPU上で動作する実行時監視として、稼働中のAI推論サーバーのプロセス状態を調べ、メモリー内のモデル重みを見つけて、以前に封印した基準値と暗号学的に照合し、重みの変更・追加・削除を実行時に検出する実装を報告しています。NVIDIAは、BlueField DPUを信頼の起点にする設計、ホストとは独立した信頼ドメイン、OpenShell参照アーキテクチャとNVIDIA Sentry(BlueField-4上でエージェントの帯域外監視とシリコン内ポリシー強制)による独立監視、HopperとBlackwellのGPU Confidential Computing、Vera Rubin NVL72でのラックスケール信頼領域への拡張を説明しています。報告書はまた、BMC・DPU・GPU周辺ソフトウェアの公開済み脆弱性(AMD InstinctのSMC、BlueField・ConnectX、AMD Pensando、Intel Gaudiの各CVE)を挙げ、帯域外管理や特権コンポーネントも通常の脆弱性管理の対象にすべきだと述べている。
この研究を読むときの留保は報告書自身が列挙しています。攻撃は既にDPUなどの特権要素にアクセスできる脅威モデルを前提とし、一般の利用者がプロンプトだけでモデルを変えられる話ではありません。テスト構成のIOMMUパススルーと緩いPCIe隔離は既定設定ではなく、「NVIDIA製GPUすべてに未修正の欠陥がある」「モデル署名が無意味になる」「全ての監視を回避できる」といった解釈は実証されていません。GH200とBlueFieldで示されたのは一つの実装であり、AMD・Intel・Arm・カスタムASICについては同種の特権層が存在するという一般論で、同じ実証が行われたわけではありません。約3GB/sの走査と1分未満の書き換えは実験固有の値です。またEclypsiumはインフラ検証製品を販売する企業であり、実行時監視の効果と性能負担は独立評価の対象です。実被害の件数、具体的な顧客環境への侵入、広範な影響台数は公表資料では確認されていません。
出典
- Eclypsium「Trusted AI Requires Trusted Infrastructure」研究報告書(15ページ、2026年10月29日公開、2026年10月31日全文確認)一次資料(研究原本、全15ページを全文確認)。GH200+BlueFieldの制御実証、モデルロード後のDMA書き換え、IOMMUパススルーと緩いPCIe隔離がLinux既定でない点と強い隔離では経路不成立、LoRAアダプター置換とベース重み置換の2実験、走査約3GB/s・書き換え1分未満、OpenBMCのIPMI、DOCAの実装詳細、DPU上の実行時監視(封印済み基準値との暗号学照合、変更・追加・削除の検出)、IOMMU/ACS/ATSの確認ポイント、Confidential Computing(Hopper/Blackwell、Vera Rubin NVL72)、BMC/DPU/GPU周辺のCVE一覧、AMD・Intel・Arm・ASICへの一般論の範囲、NVIDIAとの調整を確認
- Eclypsiumプレスリリース「Eclypsium and NVIDIA Collaborate to Address Emerging AI Infrastructure Attack Surface and Strengthen AI Trust」(2026年10月29日公開、2026年10月31日確認)一次資料。研究公開日、NVIDIAとの協力とOpen Agent Safety Platformとの統合、主要な発見(特権コンポーネントを標的とする攻撃チェーン、保存済みモデルと推論サービスを変更しない出力改変、可視な侵害痕跡なし、制御されたデモ)、Bulygin CEOの発言を確認
- NVIDIA Blog「Building Trusted AI Infrastructure for Safe and Secure AI」(2026年10月29日公開、2026年10月31日確認)一次資料。モデルファイル・ハッシュ・署名が有効なままメモリー上のモデルが別の振る舞いをしたという総括、IOMMU翻訳・PCIeアクセス制御・ATSの重要性、BlueField-4でのIOMMU/PCIe隔離強制時のアクセス制限、OpenShell参照アーキテクチャとNVIDIA Sentry(帯域外監視・シリコン内ポリシー強制)、Confidential ComputingとVera Rubin NVL72、他アーキテクチャにも及ぶ特権層の指摘、Eclypsiumとの継続協力を確認
出典の確認日 2026.10.31