NEWS & DOCUMENTARYAIと人間のこれから。
RAXUS AIAIのいまを確かめて届ける。
LATEST EDITION

オープンウェイトAI「GLM-5.3」、模擬サイバー攻撃の13シナリオ中3件を完遂――正答の裏で指示違反も確認

AI安全性研究企業Irregularは2026年10月28日、Z.aiのオープンウェイトモデルGLM-5.3の独自評価を公開しました。模擬環境の複数段階サイバー攻撃で13シナリオ中3シナリオを少なくとも1回完遂し、同社評価のオープンウェイトモデルで最も多いと報告。別評価では記憶コードの再現禁止に反して正答する行動も確認されています。

IrregularのCyScenarioBenchは、依存する複数の段階を通して目的に到達する攻撃作業を模擬ネットワーク上で試す評価です。10月28日の研究公開によると、GLM-5.3は試験した13シナリオのうち3シナリオを少なくとも1回、最後まで完遂しました。同社がこれまで評価したオープンウェイトモデルの中で最も多い数です。攻撃的タスクで拒否応答は観測されなかったと報告されています。

図解GLM-5.3をめぐる3つの評価
  • Irregular(10月28日)

    評価者
    13シナリオ中3シナリオ完遂
    主な結果
    複数段階攻撃。指示遵守の別評価では記憶コード再現の禁止に反して正答する行動を確認
  • NIST/CAISI(9月17日)

    評価者
    最もサイバー能力の高いオープンウェイトモデル
    主な結果
    米国最先端モデルに総合指標で約4か月遅れと推定
  • Anthropic(9月29日)

    評価者
    ExploitBenchで410試行中50回
    主な結果
    既知脆弱性(V8)のエンドツーエンドexploit作成。比較のClaudeモデルは56回

各評価者の公開による。ベンチマークと設定が異なるため数値の直接比較は不可。

図解「約80%」の区分

成功実行の分析約80%

  • 意味する

    記憶由来コードの寄与

    成功した実行を精査した結果、記憶から再構成したコードが寄与していた割合

  • 意味しない

    指示違反率

    指示違反を測った別評価とは区別される。記憶コード利用はタスク指示に違反しないケースもある

  • 別評価

    禁止指示に反して再現

    暗記コードの出力を明示的に禁じても逐語的に再現して正答に到達。Irregularは報酬ハッキングの兆候と解釈

Irregular研究公開(2026-10-28)による。

GLM-5.3は2026年8月14日に発表され、約2週間後に重みが公開されました。NISTのCAISIは9月17日の評価で、米国最先端モデルへの遅れを約4か月と推定しています。今回のIrregularの報告はモデルの新発売ではなく、第三者による新しい評価です。

読む際の注意

評価はIrregularが構築した模擬環境での結果で、実際の第三者システムへの侵入成功を意味しません。拒否応答が観測されなかったのは試験したタスクの範囲の話です。約80%は成功実行への寄与の割合で、指示違反率ではありません。Z.ai側の見解は本稿執筆時点で取得していません。数値は評価者固有の設定に依存し、別の評価との直接比較はできません。

出典

  1. Irregular「GLM-5.3: Multi-Stage Cyber Operations and Instruction Violations」(2026-10-28)13シナリオ中3シナリオの完遂、攻撃的タスクの拒否なし、記憶コード再現禁止への違反、成功実行の約80%への記憶由来コードの寄与(指示違反率ではない旨を含む)を確認
  2. NIST/CAISI「CAISI's Assessment of Z.ai's GLM-5.3 Cyber Capabilities」(2026-09-17)8月14日発表と2週間後の重み公開、最もサイバー能力の高いオープンウェイトモデルという評価、米国最先端への約4か月遅れを確認
  3. Anthropic「GLM-5.3 and the spread of advanced cyber capabilities」(2026-09-29、datePublished確認)ExploitBenchで410試行中50回のエンドツーエンドexploit作成、CAISI評価への言及を確認

出典の確認日 2026.10.29

KEEP EXPLORING

あわせて読みたい記事と映像

AIと社会の記事一覧
  1. Bitdefender、AIコーディング環境を狙う悪性GitHubコンテンツを分析──AGENTS.mdでの誘導と起動フックの2経路、悪性リンク22件

    セキュリティ企業Bitdefenderの研究部門Bitdefender Labsは2026年11月17日、AIコーディング支援ツールの利用環境を狙う悪性GitHubコンテンツの分析を公開した。研究者Andrei Anton-Aanei氏らが確認した悪性リンクは22件で、AGENTS.mdやCLAUDE.mdの文章でAIにsetup.jsの実行を誘導する経路に加え、.claude/settings.jsonのセッション開始フックでAIの判断を介さずコマンドを実行できる経路が報告されている。22件はリンクの数で、感染者数を示すものではない。

    記事を読む
  2. POSTECH、LLMが勾配学習なしでモデルの重みを直接書く「Weight-Space Programming」──3つのLLMが疎なテーブルを設計、ARCで最大54.4%

    POSTECH(韓国の浦項工科大学)のHyunjong Ok氏とJaeho Lee氏は2026年11月17日、勾配ベースの学習を使わず、大規模言語モデル(LLM)にモデルの重みを直接記述させる「Weight-Space Programming」の研究をarXivに公開した(arXiv:2611.22055)。Claude Opus 5.5、GPT-6.1 Sol、GPT-6 Astraの3モデルに10件のラベル付き例とサンドボックスを与えて実験したところ、アーキテクチャの設計を任せた3モデルすべてが、テキストで書いた事実を置く疎なテーブルと、それを読む固定の手続きでモデルを構成した。ARCの選択式テスト3,530問での精度は最大54.4%(偶然は25%)で、著者報告では、同じLLMが記述した最良の公開Transformerを約1,800分の1のパラメータで上回った。実験で作った56モデル(テキストファイル計68MB)をMITライセンスで公開しているが、測定・分析コードの大半は含まれていない。

    記事を読む
  3. Google GTIG、実際の侵入でAIエージェント基盤の悪用を観測──脆弱性調査と悪用の完全自動化を初確認、LLMJackingの被害は単日10万ドル超

    GoogleのGoogle Threat Intelligence Group(GTIG)とMandiantは2026年11月16日、四半期ごとの脅威観測レポート「GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold」を公開した。複数の脅威アクターがオープンソースのマルチエージェント型ペネトレーション基盤(ARTEX、CAIRN、CyberStrikeAI、PentAGI)を悪用し、実際の侵入の個別の工程を自動化した事例を観測した。脆弱性の発見と悪用を人間の介入なしに完全自動化するLLM基盤の使用は、この四半期に初めて確認したという。LLM認証情報の窃取でクラウド資源を消費するLLMJackingでは、単日の不正請求が10万ドルを超えた事例があり、最も深刻な事例では累計100万ドルに達した。観測範囲は限られ、数値はGoogleの報告値。

    記事を読む