「分類するな。幻覚させろ」— LLM分類を安くする「仮想分類→埋め込み解決」パターンが注目

「LLMに分類させるとき、語彙を渡すな。幻覚させろ」。検索エンジニアのDoug Turnbull氏が2026年8月10日に公開したブログ記事「Don’t classify. Hallucinate!」が、LLMコミュニティで注目を集めている。商品分類や検索クエリの分類をLLMで行う際、数百〜数千件に上る「合法な語彙」への制約をやめ、小型LLMに架空の分類をでっち上げさせ、埋め込みの類似度で実在する分類に解決するという2段階パターンだ。8月14日にはSimon Willison氏が自身のブログ（1,856タグ）のタグ付けへの応用として紹介している。

何が問題か — 語彙を全部送る分類のコスト

Turnbull氏は、WayfairのWANDS ECデータセットを例に挙げる。「wood coffee table」のような検索クエリを「Furniture / Living Room Furniture / Coffee Tables & End Tables / Coffee Tables」のような階層カテゴリへ分類する際、従来の実装は構造化出力（structured outputs）で出力値を制約する。Pydanticでは数百件の合法値からなる Literal 型を定義し、モデルに全語彙を送ることになる。

• 数百〜数千件の語彙をプロンプトに含めるため、リクエストが肥大化する
• 構造化出力には送信できる語彙の上限があり、全語彙を一度に送れない場合がある（Turnbull氏の指摘）
• 分類のたびにスキーマ全体を送るため、スケール時のコストが膨らむ

「幻覚させてから解決する」2段階パターン

Turnbull氏が提案するのは、この制約を逆手に取る方法だ。

第1段階: 架空の分類を生成させる。 LLMに実在語彙を一切送らず、「これまでにない、新しい分類を考えてください」と指示する。記事内のプロンプト例では、分類の「形」の見本（階層構造の例）だけを示し、「brown coffee table」に合う分類を生成させる。モデルは「Furniture / Living Room / Tables / Coffee」のような、実際の語彙には存在しない架空の分類を返す。

第2段階: 埋め込みの類似度で実在語彙に解決する。 あらかじめ実在する全分類の埋め込み（記事ではMiniLM）をインメモリに構築しておき、架空の分類の埋め込みとの内積（ドット積）で最も類似する実在分類を探す。架空の「Furniture / Living Room / Tables / Coffee」は、正解の「Furniture / Living Room Furniture / Coffee Tables & End Tables / Coffee Tables」に解決される。

• 解決用の埋め込みインデックスはインメモリで構築でき、コストが低い
• 生成タスク自体は「頭の悪い・安い」LLMに任せられる（記事のコード例では小型モデルを使用）
• スキーマを毎回送る必要がないため、リクエストが小さく済む

応用例と実装リソース

Simon Willison氏は8月14日のリンク記事で、自身のブログに1,856個もあるタグをLLMに分類させたい場面で、全タグを一度に渡して「どれが当てはまるか」を聞くのは非現実的だとし、このパターンが「モデルが想像したタグに最も近い具体的なタグを、既存コーパスに対するベクトル埋め込みで見つける」解法になると紹介している。

実装は公開されている。

• Colabノートブック: 実在分類のMiniLM埋め込みと、架空分類とのドット積による解決のデモ
• GitHubリポジトリ「softwaredoug/cheat-at-search」: cheat_at_search/enrich/vocabulary.py に語彙解決のユーティリティ

なお、このパターンは類似度ベースの解決であるため、語彙に存在しない概念は近似の既存分類へマッピングされる。生成された仮想分類の質と埋め込みモデルの選択が結果に影響する点には留意が必要だ。

出典: Doug Turnbull「Don’t classify. Hallucinate!」（softwaredoug.com、2026-08-10）、Simon Willison「Don’t classify. Hallucinate!」（simonwillison.net、2026-08-14）、GitHub「softwaredoug/cheat-at-search」（いずれも2026-08-15確認）。