THE NEWS DESK
AIニュース
公式発表や本人の発言をもとに、
AI企業や研究者の動きを伝えます。
すべてのニュース
1件新しい順
単著研究者がエージェント向けMoE推論Ostinatoを公表 ツール出力後の待ち時間を22〜55%短縮しセッション完了を1.4〜2.5倍速く(著者報告)
北京師範大学香港浸会大学聯合国際学院(BNBU)のJunning Zhuは2026年11月8日、大規模MoEモデルをCPUと数基の民生GPUに分割配置して動かす推論エンジンOstinatoの研究をarXivで公開した。エージェントがよく使うExpertをGPUに常駐させ、ツール出力後の初トークン待ちの中央値をllama.cppやKTransformersなどの比較対象より22〜55%短縮し、セッション完了時間を1.4〜2.5倍速くしたと報告している。DeepSeek-V4-FlashとRTX 4090D 4基での実セッションのリプレイによる著者報告で、コードの公開は今回の確認時点で見つかっていない。