NEWS & DOCUMENTARYAIと人間のこれから。
RAXUS AIAIのいまを確かめて届ける。
LATEST EDITION

llama.cppが初の1.0「v1.0.0」を公開――非推奨API35関数を削除、MoE ExpertのホストメモリキャッシュとFP8 KVキャッシュを追加

llama.cppの開発チームggml-orgは2026年11月13日、ローカルLLM推論エンジンllama.cppのv1.0.0を公開した(GitHub Releases)。非推奨だった公開C API35関数の削除とNextN APIのllama.hへの昇格、ホストメモリを使うMoE Expertキャッシュ、FP8 KVキャッシュ、外部PLE shardの読み込み、llama-serverのセキュリティ修正とOpenAI互換の音声合成エンドポイントを1つのリリースにまとめた。同時に基盤ライブラリggmlもv1.0.0となり、開発チームは今後、APIとABIの非互換をメジャーバージョンの更新で示す方針を説明している。速度やメモリ削減の実測値は今回の資料には含まれていない。

llama.cppはGGUF形式のモデルをCPUやGPUなど幅広い環境で動かすオープンソースの推論エンジンで、Hugging Faceの公式ブログは開発開始から約3.5年が経ち多くの下流アプリケーションが依存していると説明する。2026年11月13日のv1.0.0は、開発チームが「より安定したAPI」を下流に示すための区切りとして位置付けるリリースで、機能追加と公開APIの整理を同時に実施した。

公開APIの整理と移行時の注意

リリースノートによると、v1.0.0はllama.hからllama_set_warmupと非推奨の35関数、defrag_tholdとコマンドライン引数--defrag-tholdを削除した(PR #30565)。一方で、llama-ext.hに置かれていたNextN(speculative)APIをllama.hへ昇格させ、llama_set_embd_state_srcをllama_set_ctx_state_srcに改名した。これらは下流アプリケーションがビルド時に影響を受ける破壊的変更で、移行時には削除された関数と引数の点検が必要になる。

「今後は、llama.cppとggmlの双方で、APIとABIの非互換をメジャーバージョンの更新に反映させます。」

Moving forward, both llama.cpp and ggml will reflect API and ABI incompatibilities with major-version bumps.

ggml-org「llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem」(Hugging Face Blog、2026年11月13日公開)

同ブログはセマンティックバージョニングの適用ルールとして、公開C API(./include)の破壊的変更をMAJOR、後方互換のある機能・バックエンド・モデル対応の追加をMINOR、API変更のないバグ修正をPATCHと定義している。今回のv1.0.0は、この運用の起点となる初のメジャーバージョンだ。ナイトリービルド(b12359)は従来どおり配布が続く。

図解v1.0.0の主な変更領域(リリースノートによる)
  • 公開API破壊的変更

    主な変更
    非推奨35関数と--defrag-tholdを削除、NextN APIをllama.hへ昇格
    参考PR
    #30565
  • MoEキャッシュ機能追加

    主な変更
    ホストメモリのExpertキャッシュ、CPU shareをmoe_cache_cpu_shareで設定
    参考PR
    #30966 31233 31888
  • KVキャッシュ機能追加

    主な変更
    FP8(f8_e4m3)のKVキャッシュ、テンソル単位の静的スケールは任意
    参考PR
    #28392
  • llama-server修正と追加

    主な変更
    SSRF・DNS rebinding・CORS関連の修正、MCPツール呼び出しのキャンセル
    参考PR
    #32098 32113 32025
  • モデル対応拡張

    主な変更
    Kimi-K3.1-Pro、Ripple-65B-Preview、xing4_0、drama-3 TTSなど
    参考PR
    #31779 31692 31589

いずれもGitHub Releasesのv1.0.0リリースノートに記載された変更。変更が「破壊的」かどうかの区分は開発チームの説明による。

MoE ExpertキャッシュとFP8 KVキャッシュ

大規模MoEモデルでは、トークンごとに必要なExpert(専門ネットワーク)だけを呼ぶ一方、重みをGPUメモリに収めきれない問題が起きやすい。v1.0.0はここに対して、ホストメモリ側のExpertキャッシュを追加した。llama_context_paramsにmoe_cache_sizeとmoe_cache_cpu_shareが加わり、GPUに載らない分をCPU側で実行する割合を設定できる。キャッシュの交替はLRFUとClassLRUの方式で行い、キャッシュ済みExpertについてはCPU側が待ち合わせないようにする改良(PR #31888)も含まれる。KVキャッシュは-ctk/-ctvにf8_e4m3を指定するFP8方式が使えるようになり、テンソル単位の静的スケールも任意で指定できる(PR #28392)。加えて、外部のPLE shardを--shard/--pleで別ファイルから読み込める(PR #31185)。

図解MoE推論時のExpert供給(リリースノートの説明に基づく)
  1. 01 要求

    Expertの取得

    トークン処理に必要なExpertをキャッシュへ問い合わせる

  2. 02 ミス時

    CPU shareで実行

    GPUに載らないExpertはホストメモリ側で実行し、割合はmoe_cache_cpu_shareで設定する

  3. 03 置換

    LRFU/ClassLRU

    キャッシュの交替はLRFUとClassLRUの方式で行う

  4. 04 待ち合わせ

    キャッシュ済みは待たない

    CPU側がキャッシュ済みExpertを待つことで生じる停止を避ける

リリースノートとPR #30966・#31233・#31888の記載を整理したもの。実機での速度・メモリ効果の独立測定は今回の資料にはない。

モデル対応とサーバー強化

モデル対応では、テキスト系としてKimi-K3.1-Pro(K3の全attention MLA層をDSAに置き換えた構成)、Ripple-65B-Preview(ricursiveによるdense 65Bの新アーキテクチャ)、xing4_0が加わり、音声合成のdrama-3 TTS、ビジョン系のMageVL-CoworkとKimi-K3.1に対応した。llama-serverでは、CORSプロキシとメディアURLのSSRF対策、DNS rebinding対策、--cors-originsの修正、子インスタンスへの直接アクセス禁止といったセキュリティ修正に加え、MCPツール呼び出しをクライアント切断やタイムアウトでキャンセルしてMCPサーバーに通知する変更(PR #32025)、OpenAI互換の/v1/audio/speechエンドポイント(PR #31763)が入った。認証なしツール呼び出しの--allow-unauthenticated-toolsと非公開メディアURLの--media-allow-private-urlsは、既定で無効のオプトインとして追加されている。Web UIはチャットグループの導入やライブプレビュー付きmarkdownエディタ、モバイル向けレイアウトの刷新が行われた。

確認できていないこと

ggml v1.0.0は非推奨公開APIと旧DIAG_MASK演算の削除、YaRN truncationの設定対応、FP8対応、CUDA/Metal/Vulkanなどのバックエンド全体での性能改善を含むが、リリースノートや公式ブログに今回の実測ベンチマーク数値は載っていない。速度向上率やメモリ削減率を示す独立測定も今回確認できていないため、本稿では機能の追加・削除の事実に限定して記した。

出典

  1. llama.cpp v1.0.0(GitHub Releases)リリースの存在・日付(2026-11-13)、API変更、MoE・FP8 KV・PLE、モデル対応、サーバー変更の全部
  2. llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem(Hugging Face Blog)v1.0.0の位置付け、メジャーバージョンで非互換を示す方針、セマンティックバージョニングのルール、約3.5年の経緯
  3. dist : releases and versioning of ggml-org projects(ggml discussion #1579)リリースとバージョニングの方針、ナイトリービルドの扱い
  4. ggml v1.0.0(GitHub Releases)ggml側の変更内容(非推奨APIとDIAG_MASK削除、YaRN、FP8、バックエンド性能改善)

出典の確認日 2026.11.14

KEEP EXPLORING

あわせて読みたい記事と映像

プロダクトの記事一覧
  1. GitHub、エージェントセッションを端末間で継続させる「Agent Host Protocol」の実装を解説──VS CodeとGitHubで2つのホスト実装、6言語のSDK

    GitHubは2026年11月17日、公式Engineeringブログで、AIエージェントのセッションをエディタ、スマートフォン、クラウドの間で引き継ぐオープンなプロトコル「Agent Host Protocol(AHP)」の実装構造を解説した。執筆したのは同社のプリンシパルソフトウェアエンジニア、Connor Peet氏とRob Lourens氏だ。AHPの開発は2026年前半にVS Codeで始まり、仕様は10月2日にv1.0.0、11月13日にv1.1.0として公開済みである。今回の記事は新規プロトコルの発表ではなく、VS CodeとGitHubという異なる2実装に共通で使われている構造と設計判断の開示が中心だ。

    記事を読む
  2. Appleの研究チーム、対話操作に足る速さの動画生成「FastFrames」を公開──1.3B構成で1フレーム36ms、VAE復号とKVキャッシュ更新の置換が鍵

    Appleの研究チームは2026年11月17日、入力に応じた対話操作が可能な速さで480p動画を生成する自己回帰型動画拡散モデル「FastFrames」の論文をarXivに公開した(arXiv:2611.23226)。1.3Bの構成では単一のNVIDIA B200で1フレーム36ミリ秒(毎秒27.8回の応答)、14Bの構成では8基のB200で45ミリ秒を著者らは報告している。論文はまず既存モデルの推論を計測し、VAE復号とKVキャッシュ更新という「固定の実装詳細」とされてきた処理がエンドツーエンド遅延の半分以上を占めることを示したうえで、この2つを軽量な代替に置き換えた。論文、コード、重みが公開されている。

    記事を読む
  3. Google、GeminiのエージェントをTasksへ刷新──日本を含む6カ国で無料提供を順次開始、Gemini 4 Hydrogenとアカウント専用VMで実行

    グーグルは2026年11月17日、Geminiアプリの常時稼働型エージェントを「Tasks」として刷新し、米国・日本・韓国・カナダ・オーストラリア・インドの6カ国で無料提供を順次開始すると発表した。Gemini 4 Hydrogenを使い、ホーム画面のトグルをChatからTaskへ切り替えると、Google CloudのAgent Compute Engineが提供するアカウント専用のハードウェア隔離VMでタスクを実行する。電話発信やgemini@google.comへのメール転送、SMSによる指示は米国から順次の提供で、日本で同等の機能が使えるとは発表されていない。重要な操作の前に確認や事前承認を求める設計も明らかにした。

    記事を読む