ローカルLLMのモデルは、ランキングの高さだけでなく、用途、日本語性能、PCで動くサイズ、応答速度、ライセンスを揃えて比較します。高性能でも自分の端末で遅すぎたり、目的の利用条件に合わなければ実用には向きません。
この記事では、候補を絞る順番、5問の共通テスト、採点シート、Model Cardとライセンスの確認方法を解説します。
情報確認日：2026年7月18日（日本時間）
結論：先に合格条件を決めて同じ環境・同じ質問で比べる
モデル選定の順番
- 用途と許容できない失敗を決める
- 端末で動くサイズへ候補を絞る
- 日本語を含む同じ5問で比較する
- ライセンスと配布元を原文で確認する
- 品質・速度・資源・条件を採点して記録する
1．用途と合格条件を言語化する
「日本語が得意なモデル」では範囲が広すぎます。まず、実際に任せる作業を一文で定義します。
| 用途 | 合格条件の例 | 重大な失敗 |
|---|---|---|
| 社内文書の要約 | 決定事項・担当・期限を落とさない | 原文にない期限を作る |
| 問い合わせ分類 | 指定したJSONとラベルだけを返す | 未定義ラベルを返す |
| コード補助 | 対象言語のテストが通る | 存在しないAPIを使う |
| 文章作成 | 用語集と文体を守る | 出典のない事実を断定する |
正解が明確な作業は自動採点し、要約や文章は2人で基準表に沿って確認します。評価設計はLLM評価の基礎も参考になります。
2．モデルサイズと端末条件で絞る
パラメータ数、量子化、コンテキスト長が大きいほど、必要なメモリと保存容量は増える傾向があります。同じ名称でもタグや量子化が異なれば使用量は変わります。
- モデルファイルが保存領域へ収まるか
- 推論中にOSや他アプリを含めてメモリへ余裕があるか
- 必要な入力長で速度が許容範囲か
- CPU・GPU・Apple Siliconなど自分の構成で実測したか
カタログ値だけで決めず、候補の小さいモデルから動かします。メモリの概算方法はローカルLLMに必要なPCスペックで解説しています。
3．日本語性能を5問の共通テストで比べる
候補すべてに同じ設定と同じ入力を使い、次の5種類を1問ずつ用意します。
- 指示追従：「3項目、各40字以内」など形式制約を守れるか
- 日本語理解：主語省略、敬語、同音異義語を扱えるか
- 業務知識：正解資料を入力したうえで根拠どおり答えるか
- 構造化出力：指定したJSON schemaへ収まるか
- 不明時の挙動：情報がないとき推測せず確認できるか
共通条件
- temperature: 候補間で同じ値
- system prompt: 同一
- context: 同一の資料
- 試行回数: 各質問3回
記録
- 正確性: 1〜5
- 指示遵守: 1〜5
- 日本語自然さ: 1〜5
- 初回応答までの秒数
- 全応答の秒数
- 最大メモリ使用量
- 失敗内容一度だけ成功した結果ではなく、複数回のばらつきを見ます。速度を測るときは初回読み込みと、読み込み後の応答を分けて記録してください。
4．Model Cardとライセンスを確認する
Model Cardでは、少なくとも次を確認します。
- 公式の公開者と元モデル
- 対象言語、用途、想定外の用途
- 学習・調整方法と既知の制約
- 評価データと指標
- モデル本体のライセンス
- 派生モデルや出力物に関する条件
注意：「オープンモデル」「重み公開」だけでは、商用利用、再配布、派生物の公開が許可されるとは判断できません。ライセンス名だけでなく原文を読み、業務利用で不明点があれば法務担当者へ確認します。
集約サイトのコピーではなく、開発元の公式Model Cardとライセンスファイルを起点にします。派生モデルでは元モデルの条件も確認してください。
モデル選定スコアシート
| 評価項目 | 重み | 採点基準 |
|---|---|---|
| タスク正確性 | 30 | 5問の期待結果と一致する割合 |
| 指示・形式遵守 | 20 | 文字数、JSON、禁止事項を守る |
| 日本語品質 | 15 | 意味、敬語、自然さを人が評価 |
| 速度 | 10 | 許容時間以内に応答する |
| メモリ・容量 | 10 | 対象端末で余裕を持って動く |
| ライセンス | 15 | 予定用途が明確に許可される |
model,tag,quality,format,japanese,speed,resource,license,total,decision
candidate-a,q4,24,18,12,8,9,15,86,PoC継続
candidate-b,q8,28,19,14,4,4,15,84,速度改善後に再評価
candidate-c,q4,22,15,11,9,10,0,67,利用条件不明のため保留ライセンスが不明なら合計点が高くても採用しないなど、必須条件を別に設けます。採用理由と不採用理由を残すと、モデル更新時に比較をやり直せます。
よくある選定ミス
- 公開ベンチマークの総合順位だけで決める
- 異なるプロンプトや量子化で候補を比較する
- 短い一問だけで日本語性能を判断する
- モデルのライセンスと実行ツールのライセンスを混同する
- 導入時だけ測り、モデルや業務データの変更後に再評価しない
ローカルLLMモデル選びのよくある質問
パラメータ数が多いモデルほどよいですか？
必ずしもそうではありません。品質が上がる場合はありますが、速度と必要資源も増えます。用途別テストで小さいモデルが合格するなら運用しやすい選択です。
日本語専用モデルを選ぶべきですか？
用途次第です。多言語モデルでも十分な場合があります。モデルの説明だけでなく、自社の語彙とタスクで比較してください。
一度選べば評価は終わりですか？
いいえ。モデル、ランタイム、プロンプト、業務データ、端末構成が変わったときに再評価します。評価用の5問と採点表をバージョン管理すると再現しやすくなります。
まとめ
ローカルLLMモデルは、用途の合格条件、端末で動くサイズ、日本語を含む実タスク、ライセンスの順で絞ります。ランキングは候補探しに使い、最終判断は同じ環境・同じ質問の実測で行いましょう。
ローカル実行全体の構成から学びたい場合は、ローカルLLMの基礎を参照してください。