ローカルLLMのおすすめモデル｜業務で選ぶ5つの基準
「ローカルLLM おすすめ」で検索すると、性能スコアのランキングやベンチマーク比較の記事が数多く出てきます。ただし、ランキングの上位モデルが自社の業務にそのまま合うとは限りません。契約書照会のような単純な照会業務と、要約や分類を含む複雑な業務とでは、必要なパラメータ規模もライセンス条件も変わります。見るべきは総合スコアではなく、自社の業務に合わせた5つの基準です。この記事では、ローカルLLMを選ぶときに確認したい5つの基準と、2026年9月時点で確認できる主要なオープンモデルの系統別の特徴を整理しました。読み終えたときに、候補を自社の業務に照らして絞り込める状態を目指しました。
- モデル選びを性能スコアだけで決めると起きること
- 業務で選ぶときに見るべき5つの基準
- 主要なオープンモデル系統の特徴（2026年9月時点の確認）
- 用途別に見る、パラメータ規模の目安
- 導入前に確認しておきたい注意点と、よくある質問
モデル選びを「性能スコア」だけで決めると起きること
オープンな重みで公開されているモデルは、種類も更新頻度も年々増えています。ベンチマークスコアの総合ランキングで上位のモデルを選べば安心、と考えたくなりますが、実際にはそこにいくつかの落とし穴があります。総合スコアが高くても日本語の業務文書には弱い系統がある、パラメータ規模が大きいほど良いとは限らず自社のサーバーに載らない、ライセンス条件を確認せずに選んで商用利用の範囲で引っかかる、といったことが起こります。
ローカルLLMを自社の環境で動かす前提そのものについてはローカルLLMとは｜社内データを外に出さずに使える3つの業務で整理しました。この記事では、「ローカルLLMを使う」と決めたあとに、どのモデルを選ぶかという一段階先の判断を扱います。
業務で選ぶときに見るべき5つの基準
総合スコアではなく、次の5つを自社の業務に照らして確認します。順番に見ていきます。
対象業務の質問セットでの日本語精度
英語のベンチマークで高スコアでも、日本語の業務文書（契約書の言い回し、社内特有の略語など）に弱い系統があります。現場でよく聞かれる質問を集めた評価用セットを用意し、候補モデルに実際に流して確認します。デモの数問だけで判断すると、公開後に精度不足が発覚します。
パラメータ規模と、載せるサーバーのVRAM
パラメータ数が大きいほど精度は上がりやすい一方、動かすサーバーのGPUメモリ（VRAM）に載らなければ使えません。量子化（モデルを軽量化する処理）である程度は圧縮できますが、圧縮しすぎると精度が落ちます。自社のサーバー構成で無理なく動くパラメータ規模から候補を絞ります。
ライセンス条件（商用利用・改変の可否）
オープンな重みで公開されているモデルでも、ライセンスの条件は系統ごとに異なります。商用利用が無条件で認められているもの、利用者数や売上規模で条件が変わるもの、生成した文章の扱いに条件がつくものなどがあります。自社の利用規模で条件に該当しないか、導入前に必ずライセンス文書の原文を確認します。
提供元の更新頻度とコミュニティの活発さ
開発が止まっている系統を選ぶと、脆弱性が見つかっても放置されるリスクがあります。提供元が定期的に新しいバージョンを出しているか、利用者コミュニティで不具合報告や改善が続いているかを確認します。更新が活発な系統ほど、後から出てきた問題への対応も早くなります。
実行環境（推論ソフトウェア）との相性
モデルを実際に動かすには、Ollamaやvllmのような推論用のソフトウェアに載せます。ソフトウェアによって対応しているモデル形式や量子化の方式が異なるため、候補モデルが自社で使う予定の推論ソフトウェアに正式対応しているかを確認してから決めます。対応表は各ソフトウェアの公式ドキュメントで公開されています。
機密性の高い業務では「1．日本語精度」と「3．ライセンス」を最優先にし、次に自社のサーバー事情から「2．パラメータ規模」を絞り込みます。「4．更新頻度」「5．実行環境との相性」は、候補が数個に絞れた段階での最終確認という位置づけです。
主要なオープンモデル系統の特徴（2026年9月時点の確認）
オープンな重みで公開されている主要な系統には、それぞれ傾向があります。個別のバージョン・パラメータ数・対応言語は更新が速いため、導入前に必ず公式のモデルカードで最新の情報を確認してください。ここでは系統ごとの傾向のみを整理します。
| 系統 | 主な提供元 | よくあるパラメータ規模の傾向 | 選ぶときの主な確認点 |
|---|---|---|---|
| Llama系 | Meta | 数十億〜数百億パラメータ級まで複数展開 | ライセンス条件が利用規模で変わる場合があるため原文を確認 |
| Qwen系 | Alibaba | 小規模から大規模まで幅広いラインアップ | 日本語を含む多言語対応の度合いをモデルカードで確認 |
| Mistral系 | Mistral AI | 比較的軽量な規模を中心に展開 | 軽量なサーバーで動かしたい場合に検討候補となりやすい |
| Gemma系 | 小〜中規模を中心に展開 | 商用利用条件と利用規約の変更履歴を確認 | |
| DeepSeek系 | DeepSeek | 推論に強い設計を含む複数の規模を展開 | データの取り扱いに関する方針を自社のポリシーと照合 |
量子化に関する一般的な目安として、7B〜8B級のモデルは4bit量子化でGPUメモリ十数GB程度、70B級のモデルは4bit量子化でも数十GB規模のGPUメモリが必要になることが多いとされています。この数値は量子化の方式や推論ソフトウェアによって変わるため、あくまで検討の出発点として扱い、実際の要件は候補を絞った段階で公式ドキュメントと実機検証で確認します。
候補モデルの絞り込みと精度検証を、一緒に進めたい方へ
扱う業務の内容とサーバー構成をうかがったうえで、候補モデルの絞り込みと評価用の質問セットづくりをご支援します。まずは資料のご確認、またはオンラインでのご相談からお気軽にどうぞ。
用途別に見る、パラメータ規模の目安
業務の複雑さによって、必要なパラメータ規模の目安は変わります。あくまで検討の出発点で、最終判断は評価用の質問セットでの実測を優先します。
| 業務の例 | 複雑さの傾向 | 検討の出発点になりやすい規模 |
|---|---|---|
| 定型的な契約書・社内規程の照会 | 決まった型の質問への回答が中心 | 数十億パラメータ級から検証を始めることが多い |
| 社内FAQ・議事録の要約 | 文書の要点を落とさずまとめる必要がある | 中規模級で精度を確認しながら調整 |
| 設計・技術文書の横断検索と説明 | 専門用語や図面情報との照合を含む | 中〜大規模級での検証が必要になりやすい |
| 複数部門にまたがる複雑な意思決定支援 | 文脈の広さと推論の正確さが求められる | 大規模級を量子化して運用する例が多い |
対象業務を1つに絞り、評価用の質問セットで合格ラインに届くかを確認してから範囲を広げる進め方は、ローカルLLM全体の導入手順とも共通しています。詳しい進め方はローカルLLMとは｜社内データを外に出さずに使える3つの業務の「導入までの5つの手順」で扱っています。
導入前に確認しておきたい注意点
性能や規模だけで先にモデルを決めてしまい、導入直前になってライセンス条件を確認したところ自社の利用規模では商用利用に条件がつくと分かり、選び直しになる例があります。ライセンス条件の確認は、精度検証と同じタイミングで並行して進めておくと、後戻りを防げます。
量子化による精度低下を、評価用の質問セットで確認する
サーバーのGPUメモリに合わせて量子化を強くかけるほど、モデルのサイズは小さくなりますが精度も下がります。量子化の前後で評価用の質問セットの正答率がどれだけ変わるかを確認し、業務で許容できる範囲かを見極めてから本番運用に進めます。
系統を乗り換えるときの移行コスト
評価用の質問セットやプロンプトの調整は、選んだモデルの系統に合わせて作り込まれていきます。後から別の系統に乗り換える場合、この調整をやり直す手間が発生します。最初の選定時に5つの基準を一通り確認しておくと、乗り換えの頻度を減らせます。
運用体制がないまま、更新の速い系統を選ばない
更新が活発な系統ほど新しいバージョンへの追従が必要になり、検証・入れ替えの手間も増えます。社内に運用担当がいない場合は、更新頻度が緩やかで安定している系統を選ぶか、運用そのものを委託する選択肢もあわせて検討します。運用体制の作り方はAI内製化の進め方ガイドで扱っています。
実例に見る選定のポイント
モデル単体の選定事例ではなく社内AI・RAGの事例ですが、「業務に必要な精度と、動かせる環境の両方から選ぶ」という判断軸は共通しています。実際に支援した2つの事例を紹介します。
建設業：法規制と過去事例に答える社内チャットボット
条文番号や専門用語など、専門性の高い質問に正確に答える必要がある現場でした。評価用の質問セットで実際の正答率を確認しながら、動かす環境の制約に合う規模を選ぶ進め方を取ったことで、提案や見積の初動が速くなりました。モデル選定でも同様に、精度と環境制約の両方から絞り込む考え方が使えます。
製造業：熟練工の判断プロセスを構造化して残す
ヒアリング音声や現場写真など、外部に出しにくい情報を扱う事例です。ベテランの判断プロセスをフローチャートとして整理する精度を確保しつつ、社内で保有する環境で無理なく動く規模を選定しました。用途に対して過剰な規模を選ばないことも、運用コストを抑えるうえで重要な判断でした。
モデル選定を含めた設計全体のご相談はAIシステム開発支援、閉域環境での運用やライセンス確認を含むガバナンス面のご相談はAIセキュリティ・ガバナンス支援のページをご覧ください。
よくある質問
まとめ｜総合スコアではなく、5つの基準で自社の業務に照らす
ローカルLLMのモデル選びは、性能ランキングの上位を選べば終わりというものではありません。日本語精度・パラメータ規模とVRAM・ライセンス条件・更新頻度・実行環境との相性という5つの基準を、自社の業務とサーバー構成に照らして確認することで、後戻りの少ない選定ができます。系統ごとの傾向は更新が速いため、候補を絞ったら必ず公式のモデルカードで最新情報を確認してください。
当社は京都市左京区（百万遍）を拠点に、社内AI・RAGの構築を含むAIシステム開発・導入支援・人材研修・業務自動化を一貫してご提供しています。候補モデルの絞り込みや評価用の質問セットづくりから相談したいという場合は、まずはお気軽にお問い合わせください。
登壇・セミナー実績
神戸商工会議所・石川県庁など、各地の商工会議所や自治体でAI活用セミナーに登壇しています。現場で得た知見をもとに、京都の中小企業のAI導入を支援しています。
監修
仙入 功樹 せんにゅう こうき
代表取締役
吉村 祐樹 よしむら ゆうき
COO
本記事はAI導入支援の実務担当が監修しています。京都の中小企業を中心に、AI導入の相談から開発・研修・運用定着までを支援しています。監修者の経歴と登壇実績はメンバー紹介をご覧ください。
ローカルLLMのモデル選定は、ノーコードソリューションズにご相談ください
貴社が扱う業務内容とサーバー構成をうかがい、候補モデルの絞り込みから評価用の質問セットづくりまで個別にご提案します。資料のご確認、無料相談のいずれからでもお気軽にどうぞ。
コメント
コメント一覧 （1件）
[…] 業務で選ぶローカルLLMのモデル基準 […]