GTIGが続けているAI脅威の四半期観測の更新で、今回の変化は脅威アクターが単発のプロンプト利用から、自律的なマルチエージェント基盤、自動化された脆弱性悪用のパイプライン、LLMJackingのような収益化手法へ移ったという評価だ。侵入の仕組み自体は従来と同じ(盗んだ認証情報の利用、未修正システムの標的化)で、変わるのは自動化がもたらす速度と規模だと報告する。
「過去の四半期で、GTIGは脅威アクターがLLM基盤を使い、人間を介さずに脆弱性の発見と悪用を完全に自動化した事例を初めて確認した。」
In the past quarter, GTIG identified threat actors using LLM frameworks to fully automate vulnerability discovery and exploitation without a human in the loop for the first time.
実際の侵入で観測されたマルチエージェント基盤
GTIGとMandiantは、複数の脅威アクターがオープンソースのエージェント型ペネトレーション基盤を悪用し、実際の侵入(live intrusions)の個別の工程と特定の作業を自動化したのを観測した。挙げられた基盤は、報道で知られるようになったペネトレーションツールARTEXのほか、OODAループを専門エージェント間の共有「ブラックボード」で回すCAIRN、CyberStrikeAI、PentAGI。CAIRNは米国の航空宇宙分野の標的を含む侵入活動で使われ、8月下旬から10月上旬には、PentAGIのオープンソース版を改造した攻撃オーケストレーション基盤で、アジアの広範な組織に対する組織的な偵察と脆弱性走査が追跡された。研究室の実験ではなく現実の攻撃活動での観測が進んだ一方、すべての侵入が完全に自律的という意味ではないと報告している。
- 01 偵察・走査
マルチエージェント基盤
ARTEX、CAIRN、CyberStrikeAI、PentAGIなどが侵入の個別の工程を自動化した事例を実際の侵入で観測
- 02 脆弱性調査
パッチ差分の自動解析
パッチ公開前後のコードを差分解析し、脆弱性を特定してエクスプロイトを起草する工程を自動化
- 03 悪用の実行
人間の介入なし
起草したエクスプロイトを公開サーバーに対して自動実行する仕組みを、この四半期に初めて確認
- 04 収益化
LLMJacking
窃取したLLM認証情報とクラウド資源を消費し、不正なプロキシ経由でモデルへのアクセスを転売
Google Cloud blogの同レポート(2026-11-16公開、2026-11-17確認)。攻撃の再現手順にあたる技術的詳細はこの記事では扱わない。
LLMJackingの被害額と転売の仕組み
Mandiantが2026年に対応したLLMJacking事故では、金銭目的のアクターがクラウド環境を侵害し、対象組織のクラウド計算資源とLLM割り当てを消費した。利用と請求は数時間で急増し、単日の不正請求が10万ドルを超えた事例があり、最も深刻な事例では対処完了までに累計の資源悪用が100万ドルに達した。これは平均値ではなく、深刻な事例の値だ。転売先は「LLM Mixer」と呼ばれる不正なストアで、ロシア語と中国語のアンダーグラウンド市場で解析した出品広告の多くが、フロンティアモデルや悪用を支援すると宣伝する越獄モデルを含む複数モデルへのアクセスを提供していた。別の調査では、 Gemini APIを使う商用請負業者が、10万アカウント超を管理するターンキー型IaaS基盤の開発で複数プロバイダーのAI構成を組んでいた事例も検知した。
読むときの留保として、観測はGTIGとMandiantの視認範囲に限られ、こうした手法の全世界での普及率、攻撃の成功率、被害額の平均は不明だ。「パラダイムシフト」のような表現はGoogleの評価であって観測事実ではない。攻撃の速度と規模が変わっても、防御の基本(公開資産の把握、パッチの迅速な適用、最小権限、異常な課金の監視)が変わるわけではなく、効果の実測値がレポートに含まれているわけでもない。
出典
- GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold(Google Cloud blog、GTIGとMandiant)一次資料(2026-11-16公開)。実際の侵入でのマルチエージェント基盤(ARTEX、CAIRN、CyberStrikeAI、PentAGI)の観測、脆弱性調査と悪用の完全自動化の初確認、LLMJackingの単日10万ドル超と累計100万ドル、LLM Mixer、CAIRNの航空宇宙分野とPentAGI改造基盤のアジア標的(8月下旬〜10月上旬)
出典の確認日 2026.11.17