NEWS & DOCUMENTARYAIと人間のこれから。
RAXUS AIAIのいまを確かめて届ける。
LATEST EDITION

DiffuSpace、35B総数・3B稼働の拡散型言語モデル「Clover-35B-A3B-Preview」を公開――Qwen3.6由来、公式GGUFと自己投機デコーディングも

DiffuSpaceは2026年10月28日、ブロック単位でトークンを並列に確定する拡散型言語モデル「Clover-35B-A3B-Preview」を公式ブログで発表しました。総パラメータ約35BのMoEで1トークン当たりの稼働は約3B、テキスト専用のモデルです。重みとコードはApache-2.0ライセンスで公開され、公式GGUFも配布されています。開発元の測定ではSWE-bench Verified 73.6、単一のGB300で680 tokens/sを報告していますが、いずれもベンダー測定で独立した再現はまだありません。

公式ブログはHugging Faceのブログ機能で公開されており、ページのメタデータは2026年10月28日03:07 UTCを示します。PC Watchは10月29日12:13付の記事で、DiffuSpaceが10月28日(中国時間)に発表したと伝えています。モデルの重み(BF16)を置くHugging Faceリポジトリは10月24日に作成され、10月28日03:07 UTCに最終更新、公式GGUFのリポジトリは10月29日に作成されました。

モデルは、総パラメータ約35Bで1トークン当たり約3Bが稼働するMoE構成のテキスト専用モデルです。コンテキストは入力と出力の合計で最大131,072トークン。thinking modeに対応します。ライセンスはApache-2.0で、BF16の重みには約69GBに加えて推論用の追加メモリが必要とモデルカードに記載されています。

Qwen3.6-35B-A3B由来の40層MoEに、ブロック拡散を追加

モデルカードは、CloverがQwen3.6-35B-A3Bを基にした派生モデルであると明記しています。基盤の40層MoEはGated DeltaNet(GDN)とfull attentionを混ぜる構成です。256個のルーティング先エキスパートからトークンごとにtop-8を選び、層ごとに共有エキスパートを1つ持ちます。Cloverはこの構成に、ノイズのあるブロック内でトークンが互いを参照できる双方向のブロック注意を加えました。ゼロからの独自事前学習モデルではなく、既存のQwen系モデルの派生です。

生成方式はブロック拡散です。各ブロックをマスクした状態から始め、信頼度がしきい値(既定0.95)を超えた位置を並列に確定し、確定した部分が次のブロックの接頭辞になります。既定のblock_sizeは32です。開発元は評価と提供に、公式のSGLang実装を推奨しています。

図解Clover-35B-A3B-Preview公開の経過
  1. BF16リポジトリ作成

    Hugging FaceのDiffuspace/Clover-35B-A3B-Preview(APIのcreatedAt)

  2. 公式ブログ発表

    ページのメタデータは03:07 UTC。重みリポジトリの最終更新も同時刻

  3. GGUFリポジトリ作成・PC Watch報道

    GGUFは06:55 UTC作成。PC Watchは同日12:13付で「10月28日(中国時間)」の発表と伝える

日時はHugging Face APIのメタデータとPC Watch記事表示(2026-11-01確認)による。ブログの告知日時と先行リポジトリ作成は別の出来事です。

公式ブログのベンチマーク節は、SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7、τ³ Overall 65.3、GPQA Diamond 83.8を挙げ、比較対象を拡散型のLLaDA2.2 flashとMercury 2.5、同規模の自己回帰型Qwen3.6-35B-A3BとQwen3.5-35B-A3Bとしています。これらは開発元の測定で、第三者による再現はまだ確認できていません。

図解開発元が報告する推論速度と測定条件
  • 単一GB300

    公表値
    680 tokens/s
    測定条件
    BF16・batch=1・内部エージェント負荷での全体生成速度
  • 単一H200

    公表値
    515 tokens/s
    測定条件
    エージェントタスク。DFlash2で加速した同規模Qwenの比較値は365 tokens/s
  • RTX 5070 Ti(16GB)

    公表値
    101.8 tokens/s
    測定条件
    INT4量子化・MATH-500。同規模のMiniCPM・Qwenとの比較値は48.5 tokens/s

いずれもDiffuSpace公式ブログ(2026-10-28公開、2026-11-01確認)に記載のベンダー測定値です。GPU・精度・負荷が異なり、3行の相互比較や一般のチャット速度への外挿はできません。

「Clover-35B-A3B-Previewは、単一のNVIDIA GB300 GPU上でBF16精度・バッチサイズ1という条件の内部エージェント負荷で、全体生成速度680 tokens/sを達成します。」

Clover-35B-A3B-Preview achieves an overall generation speed of 680 tokens/s on internal agent workloads, tested on a single NVIDIA GB300 GPU with BF16 precision and a batch size of 1.

DiffuSpace公式ブログ「Clover-35B-A3B-Preview: A New Way for Intelligence」(2026年10月28日公開、2026年11月1日全文確認)

公式GGUFは3種類。llama.cppは対応PRの取得とビルドが必要

公式GGUFのリポジトリは、Q8_0が35.26GiB、Q4_K_Mが21.42GiB、Q4_0が18.24GiBの3種類のファイルを置いています。これは重みファイルのサイズで、実行時に必要なメモリの総量ではありません。3Bが稼働する構成でも、すべての重みを読み込まなくてよい意味にはなりません。ローカル実行は、llama.cppのClover対応統合を含むPR #31306を取得してビルドする手順が示されています。この統合はdraft-selfによる自己投機デコーディングを備え、別のdraftモデルの重みを必要としません。16GBのVRAMに重みを収めるには量子化が前提になります。

図解公式GGUFの3種類
  • Q8_0

    ファイルサイズ
    35.26GiB
    内容
    主に8ビット。3種で最も大きい
  • Q4_K_M

    ファイルサイズ
    21.42GiB
    内容
    Q4_K・Q6_K・Q8_0と浮動小数点テンソルの混合
  • Q4_0

    ファイルサイズ
    18.24GiB
    内容
    Q4_0量子化。一部テンソルは浮動小数点。3種で最も小さい

公式GGUFリポジトリのREADME(2026-11-01全文確認)による表の通り。ファイルサイズは必要メモリ総量ではない点を同READMEも注記しています。

開発元は、Cloverを基にしたDecision Model(Joint Mode)にも言及していますが、これは後日公開予定の別モデルで、今回公開されたClover-35B-A3B-Previewの機能ではありません。未公開のDecision ModelとTypeSafe Jevなどの比較も内部評価の位置づけです。DiffuSpaceは、2025年4月に香港大学NLPグループが公開したDream 7Bの系譜に連なるチームによる取り組みとして、Dream系モデルの累計ダウンロード270万超に触れています。

独立検証が可能になった一方で、読み取り側の課題も残ります。トークン速度はタスク成功率やエンドツーエンドの遅延、GPU時間当たりの費用を直接示しません。標準配布版のllama.cppやGUIツールでの即時動作は保証されておらず、拡散型デコーダーに対応したランタイムが必要です。trust_remote_code=Trueでモデル固有コードをロードする構成は、コード確認が前提です。今後は独立したSWE-bench・Terminal-Benchの再現、量子化別の品質、16〜24GB級GPUでの実測、予告されたDecision Modelの公開が判断材料になります。

出典

  1. Clover-35B-A3B-Preview: A New Way for Intelligence(DiffuSpace、Hugging Face公式ブログ、2026-10-28公開、2026-11-01全文確認)発表本文、SWE-bench Verified 73.6・Terminal-Bench 2.1 51.7・τ³ Overall 65.3・GPQA Diamond 83.8、GB300 680 tokens/s(BF16・batch=1・内部エージェント負荷)、H200 515とDFlash2比較365、RTX 5070 Ti INT4でMATH-500 101.8(比較48.5)、引用文
  2. Clover-35B-A3B-Previewモデルカード(Diffuspace、Hugging Face、2026-11-01全文確認)Apache-2.0、base_model: Qwen/Qwen3.6-35B-A3B、テキスト専用・35B/約3B・131,072トークン(入出力合計)、GDN/full attentionの40層・256エキスパート・top-8+共有1、双方向ブロック注意、block_size=32・しきい値0.95、BF16約69GB、thinking mode
  3. Clover-35B-A3B-Preview-GGUFリポジトリ(Diffuspace、Hugging Face、2026-11-01全文確認)Q8_0 35.26GiB・Q4_K_M 21.42GiB・Q4_0 18.24GiB、llama.cpp PR #31306の取得・ビルド手順、draft-selfの自己投機デコーディング、ファイルサイズ≠必要メモリの注記
  4. DiffuSpace公式サイトのCloverブログ(DiffuSpace、2026-11-01全文確認)Decision Modelが後日公開予定である点、TypeSafe Jev比較が未公開モデルの内部評価である点、Dream 7B(2025年4月・香港大学NLPグループ)と累計ダウンロード270万超の説明
  5. Qwen超えで2倍速、拡散LLM「Clover-35B-A3B-Preview」公開(PC Watch、2026-10-29 12:13付、2026-11-01全文確認)二次資料。10月28日(中国時間)発表の伝達。記事表示日時は2026年10月29日12:13
  6. Diffuspace/Clover-35B-A3B-PreviewのHugging Face APIメタデータ(2026-11-01取得)BF16リポジトリのcreatedAt 2026-10-24T03:46:30Z・lastModified 2026-10-28T03:07:54Z、license apache-2.0

出典の確認日 2026.11.01

KEEP EXPLORING

あわせて読みたい記事と映像

プロダクトの記事一覧
  1. GitHub、エージェントセッションを端末間で継続させる「Agent Host Protocol」の実装を解説──VS CodeとGitHubで2つのホスト実装、6言語のSDK

    GitHubは2026年11月17日、公式Engineeringブログで、AIエージェントのセッションをエディタ、スマートフォン、クラウドの間で引き継ぐオープンなプロトコル「Agent Host Protocol(AHP)」の実装構造を解説した。執筆したのは同社のプリンシパルソフトウェアエンジニア、Connor Peet氏とRob Lourens氏だ。AHPの開発は2026年前半にVS Codeで始まり、仕様は10月2日にv1.0.0、11月13日にv1.1.0として公開済みである。今回の記事は新規プロトコルの発表ではなく、VS CodeとGitHubという異なる2実装に共通で使われている構造と設計判断の開示が中心だ。

    記事を読む
  2. Appleの研究チーム、対話操作に足る速さの動画生成「FastFrames」を公開──1.3B構成で1フレーム36ms、VAE復号とKVキャッシュ更新の置換が鍵

    Appleの研究チームは2026年11月17日、入力に応じた対話操作が可能な速さで480p動画を生成する自己回帰型動画拡散モデル「FastFrames」の論文をarXivに公開した(arXiv:2611.23226)。1.3Bの構成では単一のNVIDIA B200で1フレーム36ミリ秒(毎秒27.8回の応答)、14Bの構成では8基のB200で45ミリ秒を著者らは報告している。論文はまず既存モデルの推論を計測し、VAE復号とKVキャッシュ更新という「固定の実装詳細」とされてきた処理がエンドツーエンド遅延の半分以上を占めることを示したうえで、この2つを軽量な代替に置き換えた。論文、コード、重みが公開されている。

    記事を読む
  3. Google、GeminiのエージェントをTasksへ刷新──日本を含む6カ国で無料提供を順次開始、Gemini 4 Hydrogenとアカウント専用VMで実行

    グーグルは2026年11月17日、Geminiアプリの常時稼働型エージェントを「Tasks」として刷新し、米国・日本・韓国・カナダ・オーストラリア・インドの6カ国で無料提供を順次開始すると発表した。Gemini 4 Hydrogenを使い、ホーム画面のトグルをChatからTaskへ切り替えると、Google CloudのAgent Compute Engineが提供するアカウント専用のハードウェア隔離VMでタスクを実行する。電話発信やgemini@google.comへのメール転送、SMSによる指示は米国から順次の提供で、日本で同等の機能が使えるとは発表されていない。重要な操作の前に確認や事前承認を求める設計も明らかにした。

    記事を読む