llama.cppはGGUF形式のモデルをCPUやGPUなど幅広い環境で動かすオープンソースの推論エンジンで、Hugging Faceの公式ブログは開発開始から約3.5年が経ち多くの下流アプリケーションが依存していると説明する。2026年11月13日のv1.0.0は、開発チームが「より安定したAPI」を下流に示すための区切りとして位置付けるリリースで、機能追加と公開APIの整理を同時に実施した。
公開APIの整理と移行時の注意
リリースノートによると、v1.0.0はllama.hからllama_set_warmupと非推奨の35関数、defrag_tholdとコマンドライン引数--defrag-tholdを削除した(PR #30565)。一方で、llama-ext.hに置かれていたNextN(speculative)APIをllama.hへ昇格させ、llama_set_embd_state_srcをllama_set_ctx_state_srcに改名した。これらは下流アプリケーションがビルド時に影響を受ける破壊的変更で、移行時には削除された関数と引数の点検が必要になる。
「今後は、llama.cppとggmlの双方で、APIとABIの非互換をメジャーバージョンの更新に反映させます。」
Moving forward, both llama.cpp and ggml will reflect API and ABI incompatibilities with major-version bumps.
同ブログはセマンティックバージョニングの適用ルールとして、公開C API(./include)の破壊的変更をMAJOR、後方互換のある機能・バックエンド・モデル対応の追加をMINOR、API変更のないバグ修正をPATCHと定義している。今回のv1.0.0は、この運用の起点となる初のメジャーバージョンだ。ナイトリービルド(b12359)は従来どおり配布が続く。
公開API破壊的変更
- 主な変更
- 非推奨35関数と--defrag-tholdを削除、NextN APIをllama.hへ昇格
- 参考PR
- #30565
MoEキャッシュ機能追加
- 主な変更
- ホストメモリのExpertキャッシュ、CPU shareをmoe_cache_cpu_shareで設定
- 参考PR
- #30966 31233 31888
KVキャッシュ機能追加
- 主な変更
- FP8(f8_e4m3)のKVキャッシュ、テンソル単位の静的スケールは任意
- 参考PR
- #28392
llama-server修正と追加
- 主な変更
- SSRF・DNS rebinding・CORS関連の修正、MCPツール呼び出しのキャンセル
- 参考PR
- #32098 32113 32025
モデル対応拡張
- 主な変更
- Kimi-K3.1-Pro、Ripple-65B-Preview、xing4_0、drama-3 TTSなど
- 参考PR
- #31779 31692 31589
いずれもGitHub Releasesのv1.0.0リリースノートに記載された変更。変更が「破壊的」かどうかの区分は開発チームの説明による。
MoE ExpertキャッシュとFP8 KVキャッシュ
大規模MoEモデルでは、トークンごとに必要なExpert(専門ネットワーク)だけを呼ぶ一方、重みをGPUメモリに収めきれない問題が起きやすい。v1.0.0はここに対して、ホストメモリ側のExpertキャッシュを追加した。llama_context_paramsにmoe_cache_sizeとmoe_cache_cpu_shareが加わり、GPUに載らない分をCPU側で実行する割合を設定できる。キャッシュの交替はLRFUとClassLRUの方式で行い、キャッシュ済みExpertについてはCPU側が待ち合わせないようにする改良(PR #31888)も含まれる。KVキャッシュは-ctk/-ctvにf8_e4m3を指定するFP8方式が使えるようになり、テンソル単位の静的スケールも任意で指定できる(PR #28392)。加えて、外部のPLE shardを--shard/--pleで別ファイルから読み込める(PR #31185)。
- 01 要求
Expertの取得
トークン処理に必要なExpertをキャッシュへ問い合わせる
- 02 ミス時
CPU shareで実行
GPUに載らないExpertはホストメモリ側で実行し、割合はmoe_cache_cpu_shareで設定する
- 03 置換
LRFU/ClassLRU
キャッシュの交替はLRFUとClassLRUの方式で行う
- 04 待ち合わせ
キャッシュ済みは待たない
CPU側がキャッシュ済みExpertを待つことで生じる停止を避ける
リリースノートとPR #30966・#31233・#31888の記載を整理したもの。実機での速度・メモリ効果の独立測定は今回の資料にはない。
モデル対応とサーバー強化
モデル対応では、テキスト系としてKimi-K3.1-Pro(K3の全attention MLA層をDSAに置き換えた構成)、Ripple-65B-Preview(ricursiveによるdense 65Bの新アーキテクチャ)、xing4_0が加わり、音声合成のdrama-3 TTS、ビジョン系のMageVL-CoworkとKimi-K3.1に対応した。llama-serverでは、CORSプロキシとメディアURLのSSRF対策、DNS rebinding対策、--cors-originsの修正、子インスタンスへの直接アクセス禁止といったセキュリティ修正に加え、MCPツール呼び出しをクライアント切断やタイムアウトでキャンセルしてMCPサーバーに通知する変更(PR #32025)、OpenAI互換の/v1/audio/speechエンドポイント(PR #31763)が入った。認証なしツール呼び出しの--allow-unauthenticated-toolsと非公開メディアURLの--media-allow-private-urlsは、既定で無効のオプトインとして追加されている。Web UIはチャットグループの導入やライブプレビュー付きmarkdownエディタ、モバイル向けレイアウトの刷新が行われた。
確認できていないこと
ggml v1.0.0は非推奨公開APIと旧DIAG_MASK演算の削除、YaRN truncationの設定対応、FP8対応、CUDA/Metal/Vulkanなどのバックエンド全体での性能改善を含むが、リリースノートや公式ブログに今回の実測ベンチマーク数値は載っていない。速度向上率やメモリ削減率を示す独立測定も今回確認できていないため、本稿では機能の追加・削除の事実に限定して記した。
出典
- llama.cpp v1.0.0(GitHub Releases)リリースの存在・日付(2026-11-13)、API変更、MoE・FP8 KV・PLE、モデル対応、サーバー変更の全部
- llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem(Hugging Face Blog)v1.0.0の位置付け、メジャーバージョンで非互換を示す方針、セマンティックバージョニングのルール、約3.5年の経緯
- dist : releases and versioning of ggml-org projects(ggml discussion #1579)リリースとバージョニングの方針、ナイトリービルドの扱い
- ggml v1.0.0(GitHub Releases)ggml側の変更内容(非推奨APIとDIAG_MASK削除、YaRN、FP8、バックエンド性能改善)
出典の確認日 2026.11.14