TAG / TOPIC

MoE

「MoE」に関するAIニュースと解説記事の一覧です。

18 STORIES

MoEの新着記事

MODELS / 01

Reflectionが501B・23BアクティブのMoE「Beam」を発表 — 米オープンウェイトの新鋒、重みは10月中にApache 2.0で公開へ

Reflectionが2026年10月5日に発表したオープンウェイトモデルBeam（501B・23BアクティブMoE）を公式ブログの一次情報から整理する。23.8兆トークンの事前学習、大規模RLの計算規模、ベンチマーク公称値、安全性の取り組み、Apache 2.0での重み公開予定を解説。

2026/10/07 5 MIN

PRODUCTS / 03

Transformers v5.19.0公開 — EmbeddingGemma 2統合とMoE・連続バッチまわりの破壊的変更

Hugging Face Transformers v5.19.0（2026年10月6日公開・stable）の内容をGitHubリリースノートに基づき整理。EmbeddingGemma 2の新規統合、MoE・OWL-ViT・連続バッチ関連の破壊的変更、エキスパート並列のトークンディスパッチ既定化、層別キャッシュ設定の対応を扱う。

2026/10/07 4 MIN

MODELS / 01

Mistral Large 4（Le Chonk）をプレビュー公開 — 1Tパラメーター・49BアクティブのMoE、月末に重み公開へ

Mistral AIが2026年10月6日に発表したMistral Large 4（Le Chonk）の公開プレビューを公式発表の一次情報から整理する。1T・49BアクティブMoEの仕様、DeepSWE・Terminal-Bench・Cybench等のベンチマーク公称値、料金、欧州データセンターでの学習、月末の重み公開予定を解説。

2026/10/07 6 MIN

MODELS / 01

Reflectionが501Bオープンモデル「Beam」を発表 — 23BアクティブMoE、推論効率3〜4倍を主張

Reflection AIが2026年10月5日に発表したオープンウェイトモデルBeam（501B総パラメーター・23BアクティブのMoE）を公式ブログの一次情報から整理する。ベンチマーク公称値、100Mロールアウトの強化学習、公開スケジュールを解説。

2026/10/06 5 MIN

MODELS / 01

Aleph Alphaが独英特化の開放ウェイトモデル「Kolibri-1」を公開 — 78BパラメータMoEをApache 2.0で

Aleph Alphaが2026年10月3日に公開した独英特化MoEモデルKolibri-1を一次情報（公式ブログ・Hugging Faceモデルカード）に基づき解説。78B総・3.46B活性、最大104万トークン、Apache 2.0、vLLM対応、ベンダー報告の評価値と学習・計算資源の詳細を整理。

2026/10/05 4 MIN

MODELS / 01

Upstageがエージェント特化モデル「Solar Mini 4」を公開 — 35B中3B活性のMoE、512Kコンテキスト

Upstageが2026年10月2日にエージェント特化モデルSolar Mini 4を公開。35B中3B活性のMoE、512Kコンテキスト、Intelligence Index 24.1、AutomationBench-AA 22.3%、API価格、reasoning_effortや構造化出力対応を一次情報に基づき整理する。

2026/10/03 5 MIN

COMPUTE / 06

Ai2、MoE学習基盤「Olmo-core 3」を公開 — 1兆パラメータ級のオープンな学習スタック

アレンAI研究所（Ai2）が2026年10月1日にMoE学習フレームワーク「Olmo-core 3」を公開した。エキスパート並列・パイプライン並列・分散オプティマイザに加え、GPU常駐ルーティングやMXFP8対応で1兆パラメータ級の学習に対応。次世代Olmoの基盤にもなる完全オープンの学習スタックを一次情報に基づき整理する。

2026/10/02 5 MIN

COMPUTE / 06

DeepSeek、Huawei Ascend向け基盤ライブラリ「DeepGEMM-Ascend」「DeepEP-Ascend」を公開

DeepSeekがGitHubのdeepseek-ai organizationでHuawei Ascend NPU向けのDeepGEMM-AscendとDeepEP-Ascendを9月29〜30日に公開。API互換性、対応精度、ライセンス表示の違いを一次情報に基づき整理する。

2026/09/30 4 MIN

MODELS / 01

DeepSeekが「V4.1-Flash」を公開 — 552BのMoEに非対称アーキテクチャ、V4-Proは9月14日から順次移行

DeepSeekが2026年9月10日にV4.1-Flashを公開。552BパラメータのMoEとCausal Encoder-Decoder、KVキャッシュ削減、APIモデルID・V4-Pro移行スケジュール・オープンスウェイト公開を公式APIドキュメントから整理。

2026/09/11 4 MIN

COMPUTE / 06

vLLM v0.29.0公開 — Model Runner V2が全モデルの既定に、新モデル対応とRL重み同期を強化

vLLM v0.29.0が公開。Model Runner V2の全モデル既定化、新モデル対応、投機的デコーディングとRL重み同期の強化、破壊的変更などを整理。

2026/09/09 4 MIN

COMPUTE / 06

SGLang v0.5.19公開 — ビームサーチ対応とDeepEP v2、統合radix treeの既定化で786 PR

高性能LLMサービングフレームワークSGLangが2026年9月5日に安定版v0.5.19を公開。786件のPR・214名のコントリビューターによる大規模リリースで、ビームサーチ対応、DeepEP v2 ElasticBufferバックエンド、統合radix treeの既定化、LayerNorm系列並列、Hopper向けW4A8 MoE、Blackwell既定バックエンドでのDCP、AMD向けLean attention、Qwen3.8・Spark2.5・Granite 4.2など9モデルの新規対応を含む。

2026/09/05 6 MIN

MODELS / 01

Tencent、770B MoE「Hy4 preview」をオープンソース公開 — 49Bアクティブ・100万トークン対応

Tencentが770B総パラメータ・49BアクティブのMixture-of-Experts「Hy4 preview」をApache 2.0でオープンソース公開。100万トークン長文対応、コーディングや科学計算で大幅強化、推論基盤の自己最適化でスループット31.8%向上。

2026/08/30 4 MIN

MODELS / 01

Z.ai、320B MoE「GLM-5.3-Flash」をMITで公開 — 18Bアクティブで1Mコンテキスト、“Ox Alpha”の正体

Z.aiは2026年8月26日、GLM-5.3-Flashを公開した。320B総パラメータ（18Bアクティブ）のネイティブマルチモーダルMoEで、長文推論コストを下げるハイブリッドAttentionとManifold-Constrained Hyper-Connectionsを導入。Hugging FaceでMITライセンスのオープンウェイトとして提供され、1Mコンテキストと推論制御を備える。

2026/08/27 6 MIN

MODELS / 01

Alibaba Qwen、125B MoE「Qwen3.8-Flash-Next」を公開 — Qwen4アーキテクチャの先行版、6Bアクティブで長文・低遅延を狙う

Alibaba Qwenチームは2026年8月26日、Qwen4アーキテクチャのプレビューとしてQwen3.8-Flash-Nextを公開した。マルチモーダル対応の125B MoE（アクティブ6B）で、Qwen Sparse AttentionやGated Residual、n-gram embeddingを導入。262Kネイティブコンテキスト（最大1M拡張）を備え、HFでオープンウェイト提供される。

2026/08/27 5 MIN

MODELS / 01

Xiaohongshu（RedNote）のDots Studio、初のオープンウェイトモデル「dots3-note Preview」を公開 — 280B MoE・512Kコンテキスト・Apache 2.0

Xiaohongshu傘下のDots Studioは2026年8月中旬、オープンウェイトモデル「dots3-note Preview」をApache 2.0で公開した。280B総パラメータ／16BアクティブのMoE、512Kコンテキスト、4モダリティ入力など、モデルカード・GitHub README・Hugging Faceで確認できる事実を整理する。

2026/08/15 5 MIN

MODELS / 01

NVIDIA、エージェント実行層向けオープンモデル「Nemotron 3.5 Lightning」を公開 — 30B MoE・3Bアクティブで最大4倍の出力速度

NVIDIAが2026年8月11日、エージェントの実行層に特化したオープンモデル「Nemotron 3.5 Lightning（30B-A3B）」を公開した。アーキテクチャ、速度と精度の両立手法、公表されたベンチマーク、ライセンス、提供形態を一次情報に基づいて整理する。

2026/08/14 5 MIN

MODELS / 01

アリババ、2.4Tパラメータ「Qwen3.8-Max」を初のオープンウェイト公開 — 独自ライセンスを新設

Qwenが初めてMax級モデル「Qwen3.8-2.4T-A95B」をオープンウェイトで公開した。テキスト専用・思考必須という位置づけや、新設ライセンス「qwen3.8-max」の条件を一次情報に基づいて整理する。

2026/08/14 5 MIN

MODELS / 01

DeepSeek、「V4-Pro」正式版を公開 — エージェント能力を強化し、時間帯別料金へ移行

DeepSeekが2026年8月13日、フラッグシップモデルDeepSeek-V4-Proの正式版（GA）を公開した。エージェント能力の強化、Responses API対応、思考量制御、新料金体系を一次情報に基づいて整理する。

2026/08/14 5 MIN