ローカル推論

PRODUCTS / 03

Transformersがllama.cpp量子化（GGUF）を直接実行可能に — Apple Siliconでllama.cppに迫る速度

Hugging Faceが2026年9月22日に公開したTransformersのGGUF対応を整理。ggmlカーネルの再利用、Qwen3.5系からの対応、from_pretrainedとtransformers serveでの使い方、llama.cppとの速度比較、MPS限定などの制約を扱う。