NEWS & DOCUMENTARYAIと人間のこれから。
RAXUS AIAIのいまを確かめて届ける。
LATEST EDITION

Edge0、単一GPUの145B・120B Latent MoEモデルを公開──Qwen3.8-Flash-Next由来で4ビット学習、RTX 5090 D 24GBでagent decode 121.2 tok/sを報告

Edge0は2026年11月13日、単一のNVIDIA GPUで動く大規模Latent MoEモデル「Edge0-145B」「Edge0-120B」を公開した。Qwen3.8-Flash-Nextを由来に4ビットで学習したモデルで、Q3_KとNVFP4の重みをHugging Faceで配る。動かすのはSSDやRAMから重みを供給するStrataフォークのedge0-strataで、Linux・WindowsのCUDA 13のほか、Apple SiliconのMetalでQ3_Kが動く。公式READMEのRTX 5090 D 24GB測定では、145B Q3_Kのagent decodeが121.2 tok/s、16K prefillが3554.9 tok/s。精度はモデル単位の測定でTerminal-Bench 2.1が145B 86.5・120B 75.3。コードはApache-2.0、重みは商用提供を別条件とするEdge0 Community Model License v1.0だ。

公式READMEの2026年11月13日のエントリは、Qwen3.8-Flash-Nextを由来として単一のNVIDIA GPU向けに作ったLatent MoEモデルedge0-145bとedge0-120bの公開を告げる。重みはHugging FaceにQ3_KとNVFP4の2種類ずつ4リポジトリで置かれ、実行はedge0-strata経由でedge0-infer serveとedge0-infer chatから行う。プラットフォームはLinux・WindowsのNVIDIA GPUとCUDA 13、macOSはApple SiliconのMetalでQ3_Kに対応する。11月4日の35B向け統合エンジン公開(edge0-infer、既報)とは別の公開イベントで、READMEのプラットフォーム表も35Bはネイティブエンジン、145B・120Bはedge0-strataと実行経路を分けている。

図解Edge0の公開の経緯
  1. 35B統合エンジン

    GGMLベースのネイティブエンジンと共有C++ API、ローカルサーバー、chatサンプルを公開(既報のedge0-infer)

  2. 145B・120B公開

    Qwen3.8-Flash-Next由来のLatent MoE 2モデルをQ3_K・NVFP4で公開。実行はedge0-strata(Strataのフォーク)に移る

GitHub Edge0-AI/Edge0 READMEのニュースバナー(2026-11-04・2026-11-13)と公開履歴エントリ(2026-11-16確認)。Hugging Faceのモデル作成日は2026-11-11。

Latent MoEの構成

Latent MoEはattentionを全幅のまま保ち、エキスパートへの入力を潜在空間で圧縮する設計だ。READMEの説明では、145Bは潜在幅1792、120Bは1280で、どちらも48層・512エキスパートからトークンごとに10エキスパートと1つの共有エキスパートを選ぶ。学習は4ビットで行われた。重みの配布形式はQ3_KとNVFP4で、145B Q3_Kの重み実容量は40.81GiBとREADMEの制約付き実験の節に記載がある。

図解2モデルのアーキテクチャ
  • 145B

    層数
    48
    エキスパート
    512
    選択
    10+1
    潜在幅
    1792
  • 120B

    層数
    48
    エキスパート
    512
    選択
    10+1
    潜在幅
    1280

GitHub Edge0-AI/Edge0 README(2026-11-16確認)。「選択」はトークンごとに選ぶエキスパート数+共有エキスパート1の意味。

測定性能は開発元の報告

速度の見出しはRTX 5090 D 24GBの145B Q3_Kで、chat decode 99.7 tok/s、agent decode 121.2 tok/s、16K入力のprefill 3554.9 tok/s。120B Q3_Kは同じカードでchat 130.2、agent 144.6、16K prefill 4576.5 tok/s。145BをNVFP4にすると79.6/98.3 tok/sに下がる。24GBはGPU VRAMの指定で総必要メモリではない。READMEには同じRTX 5090 DにVRAM 16GiB(--vram-reserve-mib 8192)とcgroupのMemoryMax=20Gを課した行があり、Q3_Kの重み40.81GiBをVRAMに置かずRAMとストレージから供給する運用の測定も載っている。測定はいずれも開発元で、第三者の再現はまだない。

図解RTX 5090 D 24GBの測定(tok/s)
  • 145B Q3_K

    4K prefill
    2169.9
    16K prefill
    3554.9
    chat
    99.7
    agent
    121.2
  • 145B NVFP4

    4K prefill
    1839.6
    16K prefill
    3165.7
    chat
    79.6
    agent
    98.3
  • 120B Q3_K

    4K prefill
    3236.7
    16K prefill
    4576.5
    chat
    130.2
    agent
    144.6

GitHub READMEの「Copyable 145B speed data」「Copyable 120B speed data」(2026-11-16確認)。測定条件はREADMEに機種・ビルド単位で併記。prefillは入力トークン数の条件付き。

精度とライセンス

精度はモデル単位の評価で量子化の別ではないとREADMEは断る。Terminal-Bench 2.1は145Bが86.5、120Bが75.3。DeepSWE 1.1は64.6と51.3。コード(edge0-strata、edge0-inferを含むリポジトリ)はApache-2.0。重みはHugging Faceに添付された「Edge0 Community Model License」バージョン1.0(2026年11月12日付)で、個人の利用、研究・教育・ベンチマーク、非商用の共有、組織内部での利用、成果物の商用利用などを幅広く許し、「Commercial Model Offering」に該当する商用のモデル提供だけを別条件にする。上流のQwenのライセンスは維持され、再配布時に上流の条件に従うよう求めている。

出典

  1. GitHub Edge0-AI/Edge0 README(2026-11-13のニュースエントリを含む)公開日(2026-11-13エントリ)・由来モデル(Qwen3.8-Flash-Next)・4ビット学習・48層512エキスパートK=10+共有1・潜在幅1792/1280・実測表(RTX 5090 D 24GBの121.2/99.7/3554.9ほか)・Terminal-Bench 2.1とDeepSWE 1.1のモデル単位値・プラットフォーム(CUDA 13、Metal Q3_K)・重み40.81GiB(2026-11-16にraw取得)
  2. Hugging Face Edge0/Edge0-145B-q3k(モデルカード・API)リポジトリ作成2026-11-11、base_model:Qwen/Qwen3.8-Flash-Next、4-bit・latent-moe・GGUFタグ、ライセンスはOther(LICENSE添付)
  3. Hugging Face Edge0/Edge0-120B-q3k(モデルカード・API)同構成の120B。作成2026-11-11、NVFP4版と併せて4リポジトリ構成
  4. Edge0 Community Model License バージョン1.0(2026-11-12付、HFのLICENSE)重みの許諾範囲(個人・研究・非商用共有・組織内部利用・出力の商用利用など)とCommercial Model Offeringの別条件、上流Qwenライセンスの維持。コード本体はApache-2.0(GitHubリポジトリのlicense判定)

出典の確認日 2026.11.16

KEEP EXPLORING

あわせて読みたい記事と映像

プロダクトの記事一覧
  1. Edge0が統合MoE推論エンジンedge0-inferを公開 SSDからExpertを読み出し35Bモデルをピーク3.4GiBで動かす(測定値は著者報告)

    Edge0は2026年11月4日、macOS・iOS・Android・Windowsで同じコマンドでMoEモデルを動かせる統合推論エンジンedge0-inferを公開した。GGMLベースのC++実装で、CLIとOpenAI互換・Anthropic互換のローカルサーバー、チャットアプリのサンプルを含む。最初の対応モデルはedge0-35bで、35B級のMoEをApple M5 16GiBのMetalで24.8〜24.9トークン/秒、ピーク物理メモリ3.43GiBで動かすと公式測定で報告している。数値は著者測定で、独立した検証はまだない。

    記事を読む
  2. GitHub、エージェントセッションを端末間で継続させる「Agent Host Protocol」の実装を解説──VS CodeとGitHubで2つのホスト実装、6言語のSDK

    GitHubは2026年11月17日、公式Engineeringブログで、AIエージェントのセッションをエディタ、スマートフォン、クラウドの間で引き継ぐオープンなプロトコル「Agent Host Protocol(AHP)」の実装構造を解説した。執筆したのは同社のプリンシパルソフトウェアエンジニア、Connor Peet氏とRob Lourens氏だ。AHPの開発は2026年前半にVS Codeで始まり、仕様は10月2日にv1.0.0、11月13日にv1.1.0として公開済みである。今回の記事は新規プロトコルの発表ではなく、VS CodeとGitHubという異なる2実装に共通で使われている構造と設計判断の開示が中心だ。

    記事を読む
  3. Appleの研究チーム、対話操作に足る速さの動画生成「FastFrames」を公開──1.3B構成で1フレーム36ms、VAE復号とKVキャッシュ更新の置換が鍵

    Appleの研究チームは2026年11月17日、入力に応じた対話操作が可能な速さで480p動画を生成する自己回帰型動画拡散モデル「FastFrames」の論文をarXivに公開した(arXiv:2611.23226)。1.3Bの構成では単一のNVIDIA B200で1フレーム36ミリ秒(毎秒27.8回の応答)、14Bの構成では8基のB200で45ミリ秒を著者らは報告している。論文はまず既存モデルの推論を計測し、VAE復号とKVキャッシュ更新という「固定の実装詳細」とされてきた処理がエンドツーエンド遅延の半分以上を占めることを示したうえで、この2つを軽量な代替に置き換えた。論文、コード、重みが公開されている。

    記事を読む