ローカルLLMモデル比較|4つの軸でわかる選び方

ローカルLLMモデル比較の4つの軸(パラメータ数・コンテキスト長・量子化・ライセンス)を示すアイキャッチ画像。比較を表すコンパス状の図とAIモデルのアイコンを組み合わせている
悩んでる人

モデルっていろいろあるけど、結局何を見て比較すればいいの?

情シス あおい

パラメータ数だけでなく、複数の軸で見ると迷いにくくなります。

ローカルLLMはパラメータ数だけを見比べると、実際の使用感を見誤ることがあります。

ところが、公式スペック表には出てこない差が、コンテキスト長やファイルサイズにひそんでいます。

そのため、4つの軸で横断的に比較する見方が欠かせません。

今回は、ローカルLLMのモデル比較で見落としやすい4つの軸を紹介します。

この記事でわかること
  • コンテキスト長・ファイルサイズ・ライセンス・マルチモーダル対応、公式スペック表だけでは見えない4つの軸
  • 同じ8B級でも、実測でコンテキスト長に15.6倍もの差があること
  • 同じLlama 3.1 8Bでも、量子化形式次第でファイルサイズが最大約11倍変わること

比較の軸さえ分かれば、公式スペック表の数字に振り回されにくくなります。

迷ったら、先に世代マップと全モデル比較表を覗いてみてください。

目次

ローカルLLMモデル比較|結論と4つの比較軸

ローカルLLMモデル比較で使う4つの比較軸を示す図解。コンテキスト長・ファイルサイズ・ライセンス・マルチモーダルの4項目を並べている

ローカルLLMのモデルは、パラメータ数だけで比較すると見誤ることがあります。

まずは、スペックの数字だけでは分からない具体例から確認します。

公式スペック表記だけでは判断を誤ることもある

たとえばgpt-oss-20bは、公式に16GBメモリ内で動作すると明記されています。

実機のMacBook Air(M1・16GB)で動かすと、他アプリごと固まるほど重くなりました。

「公式スペック=実際の使用感」とは限らない一例です。

詳しい検証環境や手順は、MacでローカルLLMを動かす方法で確認できます。

この記事では、公式の数字だけでは見えない4つの比較軸を1つずつ確認していきます。

この記事で比較する4つの軸

比較の切り口を4つに整理すると、迷いにくくなります。

比較軸とは、モデル同士を同じものさしで測るための切り口のことです。

次から、1つずつ実測データとともに見ていきます。

ローカルLLMモデル比較|パラメータ数とコンテキスト長は別軸

同じ8Bパラメータのモデルでもコンテキスト長が15.6倍異なることを示す図解。短いバーと長いバーを対比している

パラメータ数が近いモデルほど、性能も近いと思われがちです。

ところがコンテキスト長という軸で見ると、話は変わります。

同じ8B級でも実測15.6倍の差がある

悩んでる人

同じ8Bなら、対応できる文章量もだいたい同じでしょ?

情シス あおい

実は、同じ8B級でも15.6倍もの差があるモデルがあります。

Llama-3-ELYZA-JP-8Bの公式コンテキスト長は8,192トークンです。

一方、Llama 3.1 8B Instructは128,000トークンに対応しています。

どちらも8B級ですが、その差は約15.6倍にのぼります。

パラメータ数とコンテキスト長は、別々に確認すべき軸だと分かります。

量子化でコンテキスト長そのものが縮む例もある

量子化は「ファイルサイズを減らす処理」というイメージが強いかもしれません。

Llama 3.2 3B Instructには、通常版と量子化版で別の公式コンテキスト長があります。

通常版は128,000トークン、公式量子化版「Llama 3.2 Quantized」は8,000トークンです。

量子化はメモリを減らすだけでなく、コンテキスト長ごと変わる場合もあります。

「量子化してもコンテキスト長は変わらない」という思い込みは禁物です。

config.jsonの数値をそのまま使う危うさ

Qwen3 8BQwen3 4Bのconfig.jsonには、40,960という数値があります。

ただし公式READMEには、ネイティブ対応は32,768トークンだと明記されています。

40,960は、出力と入力の内部予約分を合算した値にすぎません。

YaRNという手法を使えば、131,072トークンまで拡張できるとも記載されています。

config.jsonの数値をそのまま書くと、不正確なコンテキスト長になる例です。

ローカルLLMモデル比較|量子化でファイルサイズは最大約11倍

量子化形式によってファイルサイズが最大11倍変わることを示す図解。小さいファイル箱と大きいファイル箱を対比している

同じモデルでも、量子化の形式次第でファイルサイズは大きく変わります。

まずは、実測データでどれだけ差が出るかを確認します。

同じLlama 3.1 8Bで2.75GiB〜29.92GiBまで変わる

Llama 3.1 8B InstructのGGUF配布のファイルサイズを実測しました。

スクロールできます
量子化形式ファイルサイズ(実測)
IQ2_M(最軽量)2.75 GiB
Q4_K_M(中間設定)4.58 GiB
Q8_0(高精度)7.95 GiB
f32(無圧縮フル精度)29.92 GiB

最軽量と最重量では、約10.9倍の差がありました。

同じモデル名でも、量子化形式次第でファイルサイズは1桁変わります。

Q4_K_M量子化は0.54〜0.59GiB/10億パラメータが目安

Q4_K_Mは、多くのモデルで使われる中間的な量子化設定です。

スクロールできます
モデル実測パラメータ数Q4_K_M実測サイズ計算値(GiB/Bパラメータ)
Llama 3.1 8B Instruct8.03B4.58 GiB0.570
Llama 3.2 3B Instruct3.21B1.88 GiB0.586
Qwen3 8B8.19B4.68 GiB0.571
Qwen3 4B4.02B2.33 GiB0.580
Gemma 3 12B it12.19B6.80 GiB0.558
ELYZA-japanese-Llama-2-7b-instruct約7B3.80 GiB0.543

実測6モデルのファイルサイズを、実測パラメータ数で割ってみました。

すると0.54〜0.59GiB/10億パラメータという、狭いレンジに収まりました。

この数値は実測からの単純計算で、公式が発表した係数ではありません。

モデルのアーキテクチャや語彙数によって、多少前後する目安として使ってください。

手元のPCで具体的に何がどれだけ必要かは、ローカルLLMに必要なスペックで詳しく確認できます。

ローカルLLMモデル比較|ライセンスと言語対応の軸

同じ開発元でもモデルによってライセンスの商用可否が異なることを示す図解。商用可と商用不可のモデルカードを対比している

ライセンスと対応言語は、開発元の会社名だけでは判断できません。

まずは、ライセンスの軸から見ていきます。

同じ開発元でも商用可否が正反対になることがある

Mistral AIには、Codestral-22B-v0.1という商用不可のモデルがあります。

テスト・研究・個人利用・評価目的の非本番環境に限定されたライセンスです(2026年8月1日確認)。

一方、同じMistral AI製のDevstral Smallは、Apache License 2.0で商用利用できます(2026年8月1日確認)。

同じ会社の製品でも、ライセンスが正反対になる実例です。

Google製のGemma 3 12B itGemma 4 12B itでも、世代でライセンスの種類自体が変わりました。

Gemma 3は独自のGemma利用規約、Gemma 4はApache License 2.0です(2026年8月1日確認)。

会社名ではなく、モデル名・世代までセットで確認する必要があります。

公式サポート言語に日本語が入っていないモデルもある

Llama 3.1 8B Instructの公式対応言語は、英・独・仏・伊・葡・ヒンディー・西・タイ語です。

この一覧に、日本語は含まれていません(2026年8月1日確認)。

Llama 3.2 3B Instructも同じ8言語で、日本語は対象外です。

一方、ELYZA-japanese-Llama-2-7b-instructは公式タグにja(日本語)が明記されています。

llm-jp-3 13B instruct3も、公式タグにja・enが明記されているモデルです。

公式の対応言語表は、思っているより見落としやすい軸です。

日本語対応を重視したいモデルは、日本語に強いローカルLLMでまとめて比較しています。

ローカルLLMモデル比較|マルチモーダル対応という軸

ローカルLLMのマルチモーダル対応レベルが3段階に分かれることを示す図解。テキストのみ・画像対応・画像+音声+動画の3項目を並べている

画像や音声まで扱えるかどうかも、モデルによって差があります。

まずは、対応レベルの3段階を確認します。

対応レベルは3段階に分かれる

本記事で扱う12モデルのうち、9モデルはテキスト専用でした(2026年8月2日確認)。

Gemma 3 12B itが対応するのは、画像入力までです。

Gemma 4 12B itは、画像・音声入力に加えて動画理解にも対応しています。

同じGemmaでも、世代によって対応モダリティの範囲は異なります

「Gemmaは画像対応」と一括りにせず、世代ごとの範囲で確認してください。

コーディング特化モデルが画像対応している例もある

悩んでる人

コーディング特化のモデルなら、画像なんて使わないですよね?

情シス あおい

実はDevstral Smallは、公式に画像入力対応と明記されています。

コード生成向けという位置づけですが、画像を読み取って回答に活かせます。

公式README本文にも、画像から得た情報をテキストと合わせて扱えると記載があります。

「用途名から機能を決めつけない」ことも、この軸を見るときのポイントです。

GGUF環境では別ファイルが必要になることもある

マルチモーダル対応でも、本体ファイルだけでは画像入力を使えない場合があります。

Gemma 3 12B itのGGUF配布では、画像処理用の別ファイル(mmproj)が用意されています。

このファイルは約0.80GiBで、本体とは別にダウンロードが必要です。

「ファイルサイズ=そのモデルの全機能に必要な容量」ではない一例です。

ローカルLLMモデル比較|世代マップと全モデル比較表

主要12モデルの公開時期が2023年8月から2026年5月まで分布していることを示す図解。タイムライン上に複数の点を並べている

最後に、公開時期という軸から、12モデルを1つの表にまとめます。

まずは、公開時期の広がりから確認します。

主要12モデルは2023年8月〜2026年5月に分布している

本記事で扱う12モデルのHugging Face公開日を確認しました(2026年8月2日確認)。

最も古いのは2023年8月28日公開のELYZA-japanese-Llama-2-7b-instructです。

最も新しいのは2026年5月23日公開のGemma 4 12B itです。

その差は、約2年9か月にのぼります。

本記事では「発売日」ではなく「Hugging Face公開日」と表現しています。

正式な発表日とは厳密には一致しない可能性があるためです。

世代が上がるとコンテキスト長も広がる

Gemma 3 12B itのコンテキスト長は128,000トークンでした。

Gemma 4 12B itでは256,000トークンへと、ちょうど2倍に広がっています。

対応モダリティも、画像入力のみから画像・音声・動画理解へと拡張されました。

新しい世代ほど、コンテキスト長も対応モダリティも広がる傾向があります。

ただし、古い世代のモデルが用途に対して不十分というわけではありません。

要件を満たしていれば、公開時期が古いモデルでも十分な場合があります。

4つの軸を1つの表にまとめました

ここまでの軸を、12モデル分の表にまとめました。

スクロールできます
モデル名パラメータ数コンテキスト長Q4_K_Mファイルサイズマルチモーダル対応HF公開日
Llama 3.1 8B Instruct8.03B128,0004.58 GiBテキストのみ2024-07-18
Llama 3.2 3B Instruct3.21B128,000(量子化版8,000)1.88 GiBテキストのみ2024-09-18
Qwen3 8B8.19Bネイティブ32,7684.68 GiBテキストのみ2025-04-27
Qwen3 4B4.02Bネイティブ32,7682.33 GiBテキストのみ2025-04-27
Gemma 3 12B it12.19B128,0006.80 GiB画像入力2025-03-01
Gemma 4 12B it11.96B256,000未実測画像+音声+動画2026-05-23
ELYZA-japanese-Llama-2-7b-instruct約7B4,0963.80 GiBテキストのみ2023-08-28
Llama-3-ELYZA-JP-8B8.03B8,192未実測テキストのみ2024-06-25
llm-jp-3 13B instruct313.71B4,096未実測テキストのみ2025-01-27
Devstral Small24.01B256,000未実測画像入力2025-11-28
Codestral-22B-v0.122.25B32,768(README未記載)未実測テキストのみ2024-05-29
gpt-oss-20b21.51B131,072(README未記載)11.28 GiB(MXFP4)テキストのみ2025-08-04

ライセンスは変更されることがあります。商用利用の前に公式リポジトリで最新条件を確認してください。

個別モデルの詳しいライセンス・商用可否・おすすめは、ローカルLLMおすすめモデル比較で確認できます。

ローカルLLMモデル比較によくある質問

ローカルLLMのモデル比較に関するよくある質問をまとめました。

モデル比較で、最初に見るべき軸はどれですか?

用途によりますが、コンテキスト長とライセンスから確認すると失敗しにくくなります。

パラメータ数だけでは、扱える文章量も商用利用の可否も分かりません。

パラメータ数が同じなら、性能もだいたい同じですか?

必ずしもそうとは限りません。

同じ8B級でも、コンテキスト長には約15.6倍の差があるモデルがあります。

量子化するとモデルの機能自体は変わりますか?

通常はファイルサイズが軽くなるだけです。

ただしLlama 3.2のように、公式量子化版でコンテキスト長が縮むモデルもあります。

マルチモーダル対応かどうかは、どこで確認できますか?

Hugging Face公式リポジトリのモデルカードやREADMEの記載で確認できます。

「コーディング特化だから画像非対応」といった思い込みは禁物です。

結局、どのモデルがおすすめですか?

本記事は比較の軸を解説する記事のため、順位づけはしていません。

用途別のおすすめは、ローカルLLMおすすめモデル比較で詳しく紹介しています。

ライセンスは一度確認すれば変わりませんか?

いいえ、ライセンスは変更されることがあります。

Gemma 3からGemma 4のように、世代が変わると種類自体が変わった例もあります。

まとめ|ローカルLLMモデル比較は軸で選ぶが近道

ローカルLLMのモデル比較について、ここまでの内容を整理すると次の通りです。

この記事のまとめ
  • コンテキスト長:パラメータ数が近くても、対応できる文章量は別軸で確認します
  • ファイルサイズ:量子化形式次第で、同じモデルでも最大約11倍変わります
  • ライセンス・言語対応:会社名ではなく、モデル名・世代単位で確認します
  • マルチモーダル対応:用途名からの思い込みではなく、公式情報で確認します

4つの軸を意識するだけで、公式スペック表の数字に振り回されにくくなります。

用途別に「結局どれがおすすめか」を知りたい方は、ローカルLLMおすすめモデル比較を確認してください。

手元の環境で何が動くか気になったら、次の記事もあわせて確認してみてください。

参考資料
Llama 3.1 8B Instruct | Hugging Face
Gemma 4 12B it | Hugging Face

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

コメント

コメントする

目次