公式READMEの2026年11月13日のエントリは、Qwen3.8-Flash-Nextを由来として単一のNVIDIA GPU向けに作ったLatent MoEモデルedge0-145bとedge0-120bの公開を告げる。重みはHugging FaceにQ3_KとNVFP4の2種類ずつ4リポジトリで置かれ、実行はedge0-strata経由でedge0-infer serveとedge0-infer chatから行う。プラットフォームはLinux・WindowsのNVIDIA GPUとCUDA 13、macOSはApple SiliconのMetalでQ3_Kに対応する。11月4日の35B向け統合エンジン公開(edge0-infer、既報)とは別の公開イベントで、READMEのプラットフォーム表も35Bはネイティブエンジン、145B・120Bはedge0-strataと実行経路を分けている。
35B統合エンジン
GGMLベースのネイティブエンジンと共有C++ API、ローカルサーバー、chatサンプルを公開(既報のedge0-infer)
145B・120B公開
Qwen3.8-Flash-Next由来のLatent MoE 2モデルをQ3_K・NVFP4で公開。実行はedge0-strata(Strataのフォーク)に移る
GitHub Edge0-AI/Edge0 READMEのニュースバナー(2026-11-04・2026-11-13)と公開履歴エントリ(2026-11-16確認)。Hugging Faceのモデル作成日は2026-11-11。
Latent MoEの構成
Latent MoEはattentionを全幅のまま保ち、エキスパートへの入力を潜在空間で圧縮する設計だ。READMEの説明では、145Bは潜在幅1792、120Bは1280で、どちらも48層・512エキスパートからトークンごとに10エキスパートと1つの共有エキスパートを選ぶ。学習は4ビットで行われた。重みの配布形式はQ3_KとNVFP4で、145B Q3_Kの重み実容量は40.81GiBとREADMEの制約付き実験の節に記載がある。
145B
- 層数
- 48
- エキスパート
- 512
- 選択
- 10+1
- 潜在幅
- 1792
120B
- 層数
- 48
- エキスパート
- 512
- 選択
- 10+1
- 潜在幅
- 1280
GitHub Edge0-AI/Edge0 README(2026-11-16確認)。「選択」はトークンごとに選ぶエキスパート数+共有エキスパート1の意味。
測定性能は開発元の報告
速度の見出しはRTX 5090 D 24GBの145B Q3_Kで、chat decode 99.7 tok/s、agent decode 121.2 tok/s、16K入力のprefill 3554.9 tok/s。120B Q3_Kは同じカードでchat 130.2、agent 144.6、16K prefill 4576.5 tok/s。145BをNVFP4にすると79.6/98.3 tok/sに下がる。24GBはGPU VRAMの指定で総必要メモリではない。READMEには同じRTX 5090 DにVRAM 16GiB(--vram-reserve-mib 8192)とcgroupのMemoryMax=20Gを課した行があり、Q3_Kの重み40.81GiBをVRAMに置かずRAMとストレージから供給する運用の測定も載っている。測定はいずれも開発元で、第三者の再現はまだない。
145B Q3_K
- 4K prefill
- 2169.9
- 16K prefill
- 3554.9
- chat
- 99.7
- agent
- 121.2
145B NVFP4
- 4K prefill
- 1839.6
- 16K prefill
- 3165.7
- chat
- 79.6
- agent
- 98.3
120B Q3_K
- 4K prefill
- 3236.7
- 16K prefill
- 4576.5
- chat
- 130.2
- agent
- 144.6
GitHub READMEの「Copyable 145B speed data」「Copyable 120B speed data」(2026-11-16確認)。測定条件はREADMEに機種・ビルド単位で併記。prefillは入力トークン数の条件付き。
精度とライセンス
精度はモデル単位の評価で量子化の別ではないとREADMEは断る。Terminal-Bench 2.1は145Bが86.5、120Bが75.3。DeepSWE 1.1は64.6と51.3。コード(edge0-strata、edge0-inferを含むリポジトリ)はApache-2.0。重みはHugging Faceに添付された「Edge0 Community Model License」バージョン1.0(2026年11月12日付)で、個人の利用、研究・教育・ベンチマーク、非商用の共有、組織内部での利用、成果物の商用利用などを幅広く許し、「Commercial Model Offering」に該当する商用のモデル提供だけを別条件にする。上流のQwenのライセンスは維持され、再配布時に上流の条件に従うよう求めている。
出典
- GitHub Edge0-AI/Edge0 README(2026-11-13のニュースエントリを含む)公開日(2026-11-13エントリ)・由来モデル(Qwen3.8-Flash-Next)・4ビット学習・48層512エキスパートK=10+共有1・潜在幅1792/1280・実測表(RTX 5090 D 24GBの121.2/99.7/3554.9ほか)・Terminal-Bench 2.1とDeepSWE 1.1のモデル単位値・プラットフォーム(CUDA 13、Metal Q3_K)・重み40.81GiB(2026-11-16にraw取得)
- Hugging Face Edge0/Edge0-145B-q3k(モデルカード・API)リポジトリ作成2026-11-11、base_model:Qwen/Qwen3.8-Flash-Next、4-bit・latent-moe・GGUFタグ、ライセンスはOther(LICENSE添付)
- Hugging Face Edge0/Edge0-120B-q3k(モデルカード・API)同構成の120B。作成2026-11-11、NVFP4版と併せて4リポジトリ構成
- Edge0 Community Model License バージョン1.0(2026-11-12付、HFのLICENSE)重みの許諾範囲(個人・研究・非商用共有・組織内部利用・出力の商用利用など)とCommercial Model Offeringの別条件、上流Qwenライセンスの維持。コード本体はApache-2.0(GitHubリポジトリのlicense判定)
出典の確認日 2026.11.16