NEWS & DOCUMENTARYAIと人間のこれから。
RAXUS AIAIのいまを確かめて届ける。
LATEST EDITION

エージェント評価の一括実行を最大65%短縮──推論と環境実行を協調させるAnt Group Lingチームの研究「CAAS」

Ant GroupのLingチームが2026年11月12日にarXivで公開した論文は、ベンチマーク評価や合成データ生成、RL rolloutで使うエージェントタスクの一括実行に絞り、LLM推論と外部環境の実行枠を協調させてバッチ全体の完了時間(makespan)を短縮する。Ling-3.0-FlashとLing-3.1-Flashの実験で、ベンチマーク別の短縮率は10.4%〜65.0%、評価スコアは同水準だった。数値は著者の測定で、公開コードは今回確認できていない。

エージェントのタスクは、LLMの推論とサンドボックスやツールの呼び出しを交互に繰り返す。従来のLLMサービングは最初のトークンまでの時間(TTFT)やトークンごとの時間(TPOT)のようなリクエスト単位の指標を最適化するが、評価や学習ではバッチ全体が終わるまで次の工程が待つ。Ant GroupのLingチーム(著者9名)は2026年11月12日、このバッチ完了時間を減らす協調最適化の論文をarXivで公開した。

「バッチの完了時間は開発効率に影響する。そこで私たちの焦点は、従来のサービングが最適化してきたリクエスト単位のレイテンシではなく、バッチのすべてのタスクを完了するのに必要な時間である。」

Batch completion time therefore affects development efficiency, motivating our focus on reducing batch makespan, the time required to complete all tasks in a batch, rather than the request-level latency typically optimized in conventional serving, such as time to first token (TTFT) and time per output token (TPOT).

arXiv:2611.16661「1 Introduction」(2026-11-12公開、2026-11-17確認)

4つの最適化を組み合わせる

対象はKVキャッシュとrecurrent stateを併用するハイブリッドモデルだ。最初の施策は、作業量に基づく容量モデルがGPUメモリをKVキャッシュとrecurrent stateに配分し、再計算を抑える推奨サンプル並列数を出す。2つ目は、trajectory labelを使った負荷境界型一貫性ハッシング(LBCH)ルーティングでワーカーへの親和性と負荷の両立を図り、routing-prefixスケジューリングで直近の経路を優先してキャッシュ再利用を促す。3つ目は、サンプルの取得(admission)と環境実行の並列数を別々に管理する分離だ。単一の上限だと、推論を忙しくしようと環境が詰まり、環境を守ろうとGPUが遊ぶ。

図解推論と環境実行の協調の流れ
  1. 01 容量モデル

    KV/状態の配分

    作業量からキャッシュ配分と推奨サンプル並列数を決める

  2. 02 ルーティング

    LBCH+RP

    trajectory labelで親和性と負荷を両立し、キャッシュ再利用を前倒し

  3. 03 分離

    admission/環境枠

    サンプルの取得並列数と環境実行の並列数を別々に管理する

  4. 04 末尾短縮

    CAAS

    観測した進捗で長いチェーンを前倒しし、バッチの末尾を短くする

arXiv:2611.16661の本文(2026-11-17確認)から作成。CAASはChain-Advancing Action Scheduling。

4つ目の施策がChain-Advancing Action Scheduling(CAAS)だ。環境の実行枠が埋まっている間、観測された進捗に基づいて完了まで長いチェーンを前倒しで進め、バッチの末尾を縮める。評価には、実際の推論と記録済みの環境応答・所要時間を組み合わせた制御付きリプレイを使い、施策ごとの寄与を分けて確かめたうえで、実環境での実測を行う。

実測では4ベンチマークで10.4〜65.0%短縮

実測はLing-3.0-Flash(総124億・活性51億パラメータ、8基のH20 GPUにTP4ワーカー2つ)とLing-3.1-Flash(総5600億・活性250億、16基のH20 GPUにTP8ワーカー2つ)で、BFCL、SWE-bench Multilingual、WideSearch、MCP-Atlasの4ベンチマークを使った。Ling-3.1-Flashではスコアが飽和したBFCLを外した。比較する構成間ではチェックポイント、タスク集合、サンプリング設定、ハードウェアを固定する。

図解ベンチマーク別のバッチ完了時間の短縮率(著者測定)
  • BFCL

    Ling-3.0-Flash
    28.1%減
    Ling-3.1-Flash
    対象外(飽和)
  • SWE-bench Multilingual

    Ling-3.0-Flash
    10.4%減
    Ling-3.1-Flash
    20.9%減
  • WideSearch

    Ling-3.0-Flash
    37.5%減
    Ling-3.1-Flash
    21.9%減
  • MCP-Atlas(環境容量制約あり)

    Ling-3.0-Flash
    65.0%減
    Ling-3.1-Flash
    61.5%減

arXiv:2611.16661の表2・表3と本文(2026-11-17確認)。表2は3回平均の実測、MCP-Atlasは3回の500タスク実行の平均。65.0%は表3の466.1分→163.0分、61.5%は333.5分→128.5分から算出。チェックポイント・タスク集合・ハードウェアを固定した比較構成での値で、推論レイテンシそのものの短縮ではない。

環境容量の制約が効くMCP-Atlasでは、単一の上限を使う基準構成から、推論側の最適化と容量分離(FCFS環境ディスパッチ)で466.1分から168.2分(63.9%減)になり、CAASを加えるとさらに3.1%減の163.0分だった。Ling-3.1-Flashでは333.5分から140.5分(57.9%減)、さらに8.5%減の128.5分だ。評価スコアは構成間で同水準(Ling-3.0で65.5→65.6、Ling-3.1で81.0→81.3)で、短縮は品質を犠牲にしていないと論文は報告する。著者らはこの手法をLing-3.xシリーズの学習・評価ワークフローに適用したと書く。

読むときの留保

数値は著者の実験で、arXivのプレプリントであり独立した査読や第三者の再現はまだない。10.4〜65.0%はバッチ完了時間の比較であって、モデルの推論速度が最大65%上がった意味ではないし、費用や電力の削減を示す値でもない。改善は複数施策の統合効果を含み、CAAS単独の寄与はMCP-Atlas実測で3.1%と8.5%にとどまる。今回の公開物に本手法の再現用コードは含まれず、論文中のGitHubリンクはベンチマーク側(MCP-Atlas)のものだ。ワーカーやGPU構成、ツール遅延の分布が違う環境への外挿は検証されていない。

出典

  1. arXiv:2611.16661 要約ページ一次資料。公開2026-11-12、著者9名(Wei Feng、Meiling Chen、Boxiao Chen、Lu Liu、Bin Zi、Libin Ye、Xingyu Lu、Lei Xu、Jun Zhou)、要旨のハイブリッドモデル向け容量モデル・LBCH/trajectory-awareルーティング・admissionと環境実行の分離・CAAS・リプレイ評価・Ling-3.0/3.1-Flashでの10.4〜65.0%短縮とスコア維持・Ling-3.xワークフローへの適用(2026-11-17確認)
  2. arXiv:2611.16661 HTML本文一次資料。所属表記「Ling Team, Ant Group」(表紙2026-11-11付)、表2のベンチ別短縮(BFCL 28.1%・SWE 10.4%・WideSearch 37.5%と3.1での20.9%・21.9%)、表3のMCP-Atlas実測(466.1→168.2→163.0分と333.5→140.5→128.5分、スコア65.5→65.6と81.0→81.3)、ハードウェア(8基/16基のH20 GPU、TP4×2/TP8×2)、BFCLを3.1から除外した理由、CAASパラメータ(B=30秒・ΔI=1秒)、リプレイ方式(2026-11-17確認)

出典の確認日 2026.11.17

KEEP EXPLORING

あわせて読みたい記事と映像

プロダクトの記事一覧
  1. GitHub、エージェントセッションを端末間で継続させる「Agent Host Protocol」の実装を解説──VS CodeとGitHubで2つのホスト実装、6言語のSDK

    GitHubは2026年11月17日、公式Engineeringブログで、AIエージェントのセッションをエディタ、スマートフォン、クラウドの間で引き継ぐオープンなプロトコル「Agent Host Protocol(AHP)」の実装構造を解説した。執筆したのは同社のプリンシパルソフトウェアエンジニア、Connor Peet氏とRob Lourens氏だ。AHPの開発は2026年前半にVS Codeで始まり、仕様は10月2日にv1.0.0、11月13日にv1.1.0として公開済みである。今回の記事は新規プロトコルの発表ではなく、VS CodeとGitHubという異なる2実装に共通で使われている構造と設計判断の開示が中心だ。

    記事を読む
  2. Appleの研究チーム、対話操作に足る速さの動画生成「FastFrames」を公開──1.3B構成で1フレーム36ms、VAE復号とKVキャッシュ更新の置換が鍵

    Appleの研究チームは2026年11月17日、入力に応じた対話操作が可能な速さで480p動画を生成する自己回帰型動画拡散モデル「FastFrames」の論文をarXivに公開した(arXiv:2611.23226)。1.3Bの構成では単一のNVIDIA B200で1フレーム36ミリ秒(毎秒27.8回の応答)、14Bの構成では8基のB200で45ミリ秒を著者らは報告している。論文はまず既存モデルの推論を計測し、VAE復号とKVキャッシュ更新という「固定の実装詳細」とされてきた処理がエンドツーエンド遅延の半分以上を占めることを示したうえで、この2つを軽量な代替に置き換えた。論文、コード、重みが公開されている。

    記事を読む
  3. Google、GeminiのエージェントをTasksへ刷新──日本を含む6カ国で無料提供を順次開始、Gemini 4 Hydrogenとアカウント専用VMで実行

    グーグルは2026年11月17日、Geminiアプリの常時稼働型エージェントを「Tasks」として刷新し、米国・日本・韓国・カナダ・オーストラリア・インドの6カ国で無料提供を順次開始すると発表した。Gemini 4 Hydrogenを使い、ホーム画面のトグルをChatからTaskへ切り替えると、Google CloudのAgent Compute Engineが提供するアカウント専用のハードウェア隔離VMでタスクを実行する。電話発信やgemini@google.comへのメール転送、SMSによる指示は米国から順次の提供で、日本で同等の機能が使えるとは発表されていない。重要な操作の前に確認や事前承認を求める設計も明らかにした。

    記事を読む