NEWS & DOCUMENTARYAIと人間のこれから。
RAXUS AIAIのいまを確かめて届ける。
LATEST EDITION

Eclypsium、特権的なGPUインフラ経由で実行中のAIモデル重みを改変できると実証――保存済みのモデル・ハッシュ・署名は無改変、NVIDIAと共同で防御策を公表

セキュリティ企業Eclypsiumは2026年10月29日、NVIDIA GH200とBlueField DPUを使った制御された実証で、特権的なインフラ構成要素からDMA(ダイレクトメモリーアクセス)でメモリー上のモデル重みを書き換え、ディスク上のモデルファイル・ハッシュ・署名を変更せずにモデルの振る舞いを変えられたと報告しました。テスト構成ではIOMMUのパススルーと緩いPCIe隔離が使われており、これはLinuxの既定設定ではなく、強いDMA隔離設定では同じ直接経路は使えなかったと記載されています。EclypsiumとNVIDIAは、DPU上で実行中のモデル重みを封印済み基準値と照合する監視やConfidential Computingなどの防御策を公表しました。実被害の報告はありません。

セキュリティ企業Eclypsiumは2026年10月29日、15ページの研究報告書「Trusted AI Requires Trusted Infrastructure」とNVIDIAとの共同発表を公開し、AI推論サーバーの特権的なインフラ構成要素を通じて、実行中のモデル状態を保存済み成果物の検証をすり抜けて変更できることを制御された環境で実証しました。NVIDIA公式ブログも同日、この研究を紹介し、モデルファイル・ハッシュ・署名がすべて有効なまま、メモリー上で動くモデルが別の振る舞いをしたと説明しています。研究はNVIDIAと調整のうえ公開されたもので、攻撃を受けた利用者が存在するとの報告はありません。

「NVIDIAはEclypsiumと組み、侵害されたAIインフラがモデルとその推論にどう影響し得るかを、保存済みモデルの完全性検知に検出されないまま示した。モデルファイル、ハッシュ、署名はすべて有効なまま、メモリー内で動いているモデルは異なる振る舞いをした。」

NVIDIA partnered with Eclypsium to demonstrate how compromised AI infrastructure could affect a model and its reasoning while remaining undetected by stored-model integrity checks: the model file, its hash and its signature all remained valid while the model running in memory behaved differently.

NVIDIA Blog「Building Trusted AI Infrastructure for Safe and Secure AI」(2026年10月29日公開)

GH200での実証の内容

実証はNVIDIA GH200(Grace Hopper)試験機とBlueField DPUの組み合わせで行われました。テスト構成では、モデルがメモリーへロードされて応答を始めた後、DPU側からPCIe越しのDMA読み書きでホストメモリーとGPUメモリー(HBM)に到達し、対象の重みをその場で書き換える。テスト構成のIOMMUはパススルー、PCIe隔離は緩い設定で、報告書はこれがLinuxの既定設定ではないと明記したうえで、性能調整の選択肢として使われ得ると説明しています。管理面にはOpenBMCのIPMIが使われていた。書き換えの実験には2種類あり、benignなLoRAアダプターをメモリー上で悪性のテスト用アダプターに置き換える方法と、LoRAを選択したベースモデル重みにマージしたうえで重みそのものをDMAで置き換える方法です。モデル層の走査は約3GB/s、対象の書き換えは一般に1分未満で完了し、どちらも制御された実験の処理指標であって、実運用での侵入時間や攻撃成功率ではありません。

図解実証された実行時改変の経路と防御側の位置付け
  1. 01 特権要素への到達

    DPU・BMC・管理面

    テスト構成ではOpenBMCのIPMI経由でDPUへ到達。報告書は管理面の既知の脆弱性事例を挙げ、帯域外管理も資産管理の対象にするよう述べる(CVEは本文に記載)

  2. 02 DMA経路の成立

    IOMMUパススルー+緩いPCIe隔離

    テスト構成ではIOMMUのパススルー設定と緩いPCIe隔離により、DPUからホスト・GPUメモリーへの直接DMAが可能。Linuxの既定ではなく、強い隔離では同じ経路は使えなかった(報告書)

  3. 03 メモリー上の重みを書き換え

    走査約3GB/s・書き換え1分未満

    モデルロード後にDMA読み書きでLoRAアダプターまたはベース重みを置き換え。ディスク上のモデル・コンテナ・ハッシュ・署名は無改変で、元の値への復元も可能(報告書)

  4. 04 検知をすり抜ける

    保存検証は正常のまま

    署名・ハッシュ検証はディスクから読む時点で行われ、推論中のHBM上のテンソルは再測定されない。精度・遅延・テレメトリーは通常範囲内に見える(報告書の説明)

  5. 05 防御側の対応

    DPU上の実行時監視と隔離強化

    EclypsiumはDPU上で動き、メモリー内の重みを封印済み基準値と暗号学的に照合する監視を実装したと報告。NVIDIAはBlueFieldとOpenShell、Sentry、機密計算による隔離と監視を説明

Eclypsium研究報告書(15ページ、2026-10-29公開、全文確認)とNVIDIA公式ブログ(同日公開)の記載による。走査速度・所要時間は制御された実験の値。実証は一つの実装であり、現実の侵害や全構成への当てはまりを示すものではない。

成立条件は設定に依存する

このDMA経路は、テスト構成がIOMMUパススルーと緩いPCIe隔離にあったために成立したもので、報告書は強いDMA隔離とIOMMU設定があれば同じ直接メモリーアクセスは使えなかったと明記しています。確認ポイントとして、IOMMU翻訳の有効化(iommu.passthrough=1やiommu.strict=0は保護が無効・弱体化の兆候)、DPUのポートでPCIe ACS(Access Control Services)のP2P Request RedirectとTranslation Blockingの有効化、ATS(Address Translation Services)の無効化または上流での遮断を挙げ、能力の存在と制御ビットの有効化は別物だと注意を促している。性能のために緩い設定を使う場合は、文書化された期間限定のリスク受容として扱うべきだとしています。NVIDIA側は、BlueField-4でIOMMUとPCIe隔離の保護が強制されていればホストメモリーへのアクセスは許可された領域に制限され、実証で使われた無制限のDMA経路は塞がれると説明しています。

図解テスト構成と強い隔離構成の違い
  • テスト構成

    メモリー隔離
    IOMMUパススルー、緩いPCIe隔離(既定ではなく性能調整の選択肢)
    DMA直接経路
    DPUからホスト・GPUメモリーへのDMA読み書きが成立
    報告書の位置付け
    実証で使用。管理面はOpenBMCのIPMI
  • 強い隔離構成

    メモリー隔離
    IOMMU翻訳有効、デバイスごとに分離されたドメイン、ACS有効、ATS無効または上流遮断
    DMA直接経路
    同じ直接メモリーアクセス経路は使用できなかった
    報告書の位置付け
    推奨される確認ポイント。BlueField-4で保護強制時は許可領域に制限(NVIDIAの説明)

Eclypsium研究報告書とNVIDIA公式ブログの記載による。設定の詳細(IOMMU、ACS、ATS)は報告書が挙げた確認項目であり、環境ごとの性能影響は各自の検証が必要と報告書は述べている。

公表された防御策と留意点

Eclypsiumは、DPU上で動作する実行時監視として、稼働中のAI推論サーバーのプロセス状態を調べ、メモリー内のモデル重みを見つけて、以前に封印した基準値と暗号学的に照合し、重みの変更・追加・削除を実行時に検出する実装を報告しています。NVIDIAは、BlueField DPUを信頼の起点にする設計、ホストとは独立した信頼ドメイン、OpenShell参照アーキテクチャとNVIDIA Sentry(BlueField-4上でエージェントの帯域外監視とシリコン内ポリシー強制)による独立監視、HopperとBlackwellのGPU Confidential Computing、Vera Rubin NVL72でのラックスケール信頼領域への拡張を説明しています。報告書はまた、BMC・DPU・GPU周辺ソフトウェアの公開済み脆弱性(AMD InstinctのSMC、BlueField・ConnectX、AMD Pensando、Intel Gaudiの各CVE)を挙げ、帯域外管理や特権コンポーネントも通常の脆弱性管理の対象にすべきだと述べている。

この研究を読むときの留保は報告書自身が列挙しています。攻撃は既にDPUなどの特権要素にアクセスできる脅威モデルを前提とし、一般の利用者がプロンプトだけでモデルを変えられる話ではありません。テスト構成のIOMMUパススルーと緩いPCIe隔離は既定設定ではなく、「NVIDIA製GPUすべてに未修正の欠陥がある」「モデル署名が無意味になる」「全ての監視を回避できる」といった解釈は実証されていません。GH200とBlueFieldで示されたのは一つの実装であり、AMD・Intel・Arm・カスタムASICについては同種の特権層が存在するという一般論で、同じ実証が行われたわけではありません。約3GB/sの走査と1分未満の書き換えは実験固有の値です。またEclypsiumはインフラ検証製品を販売する企業であり、実行時監視の効果と性能負担は独立評価の対象です。実被害の件数、具体的な顧客環境への侵入、広範な影響台数は公表資料では確認されていません。

出典

  1. Eclypsium「Trusted AI Requires Trusted Infrastructure」研究報告書(15ページ、2026年10月29日公開、2026年10月31日全文確認)一次資料(研究原本、全15ページを全文確認)。GH200+BlueFieldの制御実証、モデルロード後のDMA書き換え、IOMMUパススルーと緩いPCIe隔離がLinux既定でない点と強い隔離では経路不成立、LoRAアダプター置換とベース重み置換の2実験、走査約3GB/s・書き換え1分未満、OpenBMCのIPMI、DOCAの実装詳細、DPU上の実行時監視(封印済み基準値との暗号学照合、変更・追加・削除の検出)、IOMMU/ACS/ATSの確認ポイント、Confidential Computing(Hopper/Blackwell、Vera Rubin NVL72)、BMC/DPU/GPU周辺のCVE一覧、AMD・Intel・Arm・ASICへの一般論の範囲、NVIDIAとの調整を確認
  2. Eclypsiumプレスリリース「Eclypsium and NVIDIA Collaborate to Address Emerging AI Infrastructure Attack Surface and Strengthen AI Trust」(2026年10月29日公開、2026年10月31日確認)一次資料。研究公開日、NVIDIAとの協力とOpen Agent Safety Platformとの統合、主要な発見(特権コンポーネントを標的とする攻撃チェーン、保存済みモデルと推論サービスを変更しない出力改変、可視な侵害痕跡なし、制御されたデモ)、Bulygin CEOの発言を確認
  3. NVIDIA Blog「Building Trusted AI Infrastructure for Safe and Secure AI」(2026年10月29日公開、2026年10月31日確認)一次資料。モデルファイル・ハッシュ・署名が有効なままメモリー上のモデルが別の振る舞いをしたという総括、IOMMU翻訳・PCIeアクセス制御・ATSの重要性、BlueField-4でのIOMMU/PCIe隔離強制時のアクセス制限、OpenShell参照アーキテクチャとNVIDIA Sentry(帯域外監視・シリコン内ポリシー強制)、Confidential ComputingとVera Rubin NVL72、他アーキテクチャにも及ぶ特権層の指摘、Eclypsiumとの継続協力を確認

出典の確認日 2026.10.31

KEEP EXPLORING

あわせて読みたい記事と映像

AIと社会の記事一覧
  1. Bitdefender、AIコーディング環境を狙う悪性GitHubコンテンツを分析──AGENTS.mdでの誘導と起動フックの2経路、悪性リンク22件

    セキュリティ企業Bitdefenderの研究部門Bitdefender Labsは2026年11月17日、AIコーディング支援ツールの利用環境を狙う悪性GitHubコンテンツの分析を公開した。研究者Andrei Anton-Aanei氏らが確認した悪性リンクは22件で、AGENTS.mdやCLAUDE.mdの文章でAIにsetup.jsの実行を誘導する経路に加え、.claude/settings.jsonのセッション開始フックでAIの判断を介さずコマンドを実行できる経路が報告されている。22件はリンクの数で、感染者数を示すものではない。

    記事を読む
  2. POSTECH、LLMが勾配学習なしでモデルの重みを直接書く「Weight-Space Programming」──3つのLLMが疎なテーブルを設計、ARCで最大54.4%

    POSTECH(韓国の浦項工科大学)のHyunjong Ok氏とJaeho Lee氏は2026年11月17日、勾配ベースの学習を使わず、大規模言語モデル(LLM)にモデルの重みを直接記述させる「Weight-Space Programming」の研究をarXivに公開した(arXiv:2611.22055)。Claude Opus 5.5、GPT-6.1 Sol、GPT-6 Astraの3モデルに10件のラベル付き例とサンドボックスを与えて実験したところ、アーキテクチャの設計を任せた3モデルすべてが、テキストで書いた事実を置く疎なテーブルと、それを読む固定の手続きでモデルを構成した。ARCの選択式テスト3,530問での精度は最大54.4%(偶然は25%)で、著者報告では、同じLLMが記述した最良の公開Transformerを約1,800分の1のパラメータで上回った。実験で作った56モデル(テキストファイル計68MB)をMITライセンスで公開しているが、測定・分析コードの大半は含まれていない。

    記事を読む
  3. Google GTIG、実際の侵入でAIエージェント基盤の悪用を観測──脆弱性調査と悪用の完全自動化を初確認、LLMJackingの被害は単日10万ドル超

    GoogleのGoogle Threat Intelligence Group(GTIG)とMandiantは2026年11月16日、四半期ごとの脅威観測レポート「GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold」を公開した。複数の脅威アクターがオープンソースのマルチエージェント型ペネトレーション基盤(ARTEX、CAIRN、CyberStrikeAI、PentAGI)を悪用し、実際の侵入の個別の工程を自動化した事例を観測した。脆弱性の発見と悪用を人間の介入なしに完全自動化するLLM基盤の使用は、この四半期に初めて確認したという。LLM認証情報の窃取でクラウド資源を消費するLLMJackingでは、単日の不正請求が10万ドルを超えた事例があり、最も深刻な事例では累計100万ドルに達した。観測範囲は限られ、数値はGoogleの報告値。

    記事を読む