TAG / TOPIC

ggml

「ggml」に関するAIニュースと解説記事の一覧です。

03 STORIES

ggmlの新着記事

COMPUTE / 06

llama.cpp v0.6.0公開 — 新バッチAPI・GLM-5.3-Flash 320B対応・decisionモデル用サーバーAPIを追加

llama.cppが2026年10月5日に公開した安定版v0.6.0をGitHubリリースノートの一次情報から整理する。llama_batch_ext拡張バッチAPI、GLM-5.3-Flash 320B・Clef・Qwen4Exp MTP投機デコーディングの新モデル対応、/v1/systemone decisionモデルAPI、Metal高速化、ggml v0.26.0を解説。

2026/10/06 5 MIN

COMPUTE / 06

llama.cpp v0.4.0公開 — Qwen3.8-Flash-Nextの初期対応と遅延テンソル読み込み、ggml 0.23.0へ更新

ローカルLLM推論エンジンllama.cppが2026年9月4日に安定版v0.4.0を公開。Qwen3.8-Flash-Next（qwen4exp）の初期アーキテクチャ対応、NVIDIA Nemotron-3-Puzzle-75B-A9BとNemotron 3.5のDSpark対応、遅延テンソル読み込み、スロット別コンテキスト上限、動画入力オプション、ggml v0.23.0（スパースflash attention・Apple RDMA）への更新を含む。

2026/09/05 5 MIN

COMPUTE / 06

llama.cpp v0.3.0公開 — Dots3-Note対応とDeepSeek 4テンソル分割、ggml 0.22.0へ更新

人気のローカルLLM推論エンジンllama.cppが2026年8月25日にv0.3.0を公開。新アーキテクチャdots3-note（DSA-ISWA KVキャッシュ）と視覚・音声対応、GLM-4.5-AirのMTP、DeepSeek 4のtensor-split（-sm tensor）とマルチシーケンスロールバック修正を含む。ggmlはv0.22.0へ更新しメタバックエンドでのテンソル分割やMetalのper-op並列コンパイルを導入、mtmdはWebPやPillow準拠リサイズ、サーバーとWeb UIも改善された安定版リリース。

2026/08/25 4 MIN