vLLM v0.31.0が公開 — 717コミット、DeepSeek-V4.1-Flash高速化と再起動高速化・スケジューラ改善が柱

高性能LLM推論サーバー「vLLM」が、2026年10月5日（UTC）に安定版「v0.31.0」を公開した。リリースノートによれば、307人のコントリビューター（うち96人が新規）による717コミットを含むマイナーリリースで、DeepSeek-V4.1-Flash向けの性能改善、エンジン再起動の高速化、スケジューリング制御、大規模サービング基盤の拡充が柱となっている。本稿はGitHubのリリースノートで確認できる範囲に限定して整理する。

DeepSeek-V4.1-Flashの性能改善と再起動高速化

• DeepSeek-V4.1-Flash: FlashMLA mega attentionとNVFP4圧縮KVキャッシュの組み合わせがSM100環境の既定になったほか、DeepGEMMのスパースMQAロジット、Mega-Gateの融合、TP all-reduceやMoE finalizeの融合など、デコーダー境界の融合最適化が多数含まれる
• 再起動高速化（Fast restart）: 量子化済み重みをGPUメモリに常駐させる重みキャッシュデーモンを起動する新しいvllm preload CLIが追加され、データ並列やMTPドラフトモデル、/healthエンドポイント、起動待機に対応。実験的機能としてCRIUを用いた初期化済みエンジンのスナップショット作成・復元（vllm snapshot create/restore）もある
• モデル対応: DiffusionGemmaの構造化生成モード、MiMo V2（MXFP4 MoE）、Cohere2MoEのEAGLE3／DFlashドラフト向け隠れ状態、ROCm経路でのGLM-5.2-MXFP4、Granite 4.2向けの組み込み思考パーサーなどが追加された
• 個別の性能数値はリリースノートの個別PR記載に依存するため、本記事では断定しない

Model Runner V2・大規模サービング・スケジューリング

• Model Runner V2と投機的デコーディング: ドラフトモデルによる投機的デコーディングとカスタムlogitsプロセッサーがModel Runner V2に対応。新しいLiLiCorrドラフター、DFlash向け非同期スケジューリング、Gemma4向けDSpark適応検証などが含まれる
• 大規模サービング: MoonEPによる均衡化されたEP all2allバックエンド（--all2all-backend moonep）、データ並列併用時のプリフィル文脈並列、DeepEPv2のシーケンス並列対応、強化学習向けのシャーディング対応NCCL重み転送バックエンドなどが追加された
• スケジューリング制御: 実行中リクエストの受け入れ上限を独立に制限する--max-num-active-seqs、待機中のプリフィル数に応じて適応するロングプリフィル閾値、KVブロック保持済みリクエストを優先する待機キュー改修などが含まれる
• セキュリティ: リクエスト単位のmm_processor_kwargs・media_io_kwargsはサーバー起動時に--trust-request-mm-kwargsを指定しない限り拒否されるようになったほか、プレフィックスキャッシュのキー衝突対策などが含まれる

破壊的変更と提供形態

• 破壊的変更: 上記のリクエスト単位マルチモーダル引数の既定拒否のほか、tokenizer_mode="slow"の削除、Mamba系プレフィックスキャッシュ関連オプションの改名、オンライン量子化のquantization="fp8"からfp8_per_tensorへのリダイレクト、AllSpark INT8バックエンドの削除などがある。--enforce-eagerがJITカーネルウォームアップも無効化するなど既定動作の変更もあるため、更新時はリリースノートの該当節の確認が必要
• 提供形態: PyPIのCUDA 13.0ホイール、ROCm／XPU向けホイール、CUDA／ROCm／CPU／XPU向けDockerイメージ（vllm/vllm-openai:v0.31.0など）が用意されている
• 画像は一次情報のリリースノートに性能比較チャート等の図表が含まれていないため省略する

出典

• v0.31.0 - vllm-project/vllm Releases