2仕組み
オンプレAIとローカルLLMは、何が違うのか
オンプレAIとは、AIのモデルと社内の文書を自社のサーバーに置いて動かす構成です。公開されている学習済みのモデルを手元のサーバーで動かす使い方を、ローカルLLMと呼びます。このサービスでは、ローカルLLMとRAG(社内文書を検索して回答の根拠にする仕組み)を組み合わせて使います。
標準構成では、文書と質問の内容を外部のAIサービスに送りません。インターネットにつなぐ場合も、外との通信はソフトの更新と、事前に取り決めた保守の接続に限ります。
取引先の図面を預かる製造業では、秘密保持契約で図面の置き場所が決められていることがあります。社外のサーバーに置くことを禁じている契約や、取引先の承諾を条件にしている契約です。
弊社は、図面番号や材質で探せるように文書を整理し、関連する不具合報告や手直しの記録も検索結果に出します。
カルテや契約書も検索の対象にでき、図面と同じく社内のサーバーで扱います。カルテを扱うときは、厚生労働省の「医療情報システムの安全管理に関するガイドライン」(第7.0版、2026年6月)に沿って、保守の手順と記録の残し方を取り決めます。
図面は、図面番号・材質・注記などの文字情報で探します。線や形状を読み取る使い方は、お手元の図面で試してから判断します。紙の図面をスキャンして使うときは、文字の読み取りの精度も試験運用で確かめます。
- 検索できる範囲
- 全社で共通にするか、部署ごとに分けるか
- クラウドとの併用
- 機密を含まない作業だけ使う、または使わない
- ネットへの接続
- つなぐ、またはインターネットから切り離す
- 保守の立ち会い
- 修理のときに、社内の担当者が立ち会うか
- ログインと操作の記録
- ログインの方法と、操作の記録を残す場所
- バックアップ
- 文書と設定の控えをどこに取るか
- 更新の方法
- インターネットから切り離すときに、ソフトとモデルをどう更新するか
3使うサーバー
標準構成は、机に置けるサーバー1台です
標準構成で使うのは、MSI EdgeXpert 1台です。NVIDIA DGX Sparkと同じGB10というチップを積んだ機種です。公開されている学習済みのAIモデルから、用途に合うものを選んでこのサーバーで動かします。GPUを積んだサーバーがすでに社内にあれば、それを使える場合もあります。

大きさ
15cm × 15cm
高さ5.7cm。サーバー室は要りません。
- メモリ
- 128GB(AIのモデルを読み込むための容量。2TB版は64GB)
- チップ
- NVIDIA GB10(AIの計算を担う半導体)
MSI EdgeXpert(4TB版)。寸法の出典はMSIのユーザーガイド、メモリと容量の出典はアプライド株式会社の製品ページ、写真は同じページに載っているMSIの画像です(いずれも2026年11月時点)
ほかの機種を選ぶ場合(2機種)
HPの機種はMSI EdgeXpertと同じチップを積んでいます。アプライド株式会社は、このほかDell・Lenovo・ASUS・GIGABYTEのGB10搭載機も扱っています。
HP ZGX Nano G1n AI Station社内のPCをHPでそろえているとき
ラック型サーバー同時に使う人が多く、1台では応答が遅くなるとき42社の担当
契約も導入後の相談も、
弊社が窓口です。
AIの構築は弊社が、サーバーの選定・納品・保守はアプライド株式会社が担当します。
段階ごとの分担を見る
ノーコードソリューションズAIの構築と運用・窓口
サーバーの調達・設置・保守ノーコードソリューションズAIの構築と運用・窓口
- 要件の整理使うモデルと、AIに読ませる文書の範囲を決める
- 納品・設置社内ネットワークにつなぐ
- AIの構築文書を読み込ませ、検索を設定する。社内システムとの連携は別途お見積もり
- 運用回答と参照元の確認、検索設定の調整、社内担当者への引き継ぎ
アプライド株式会社サーバーの調達・設置・保守
- 要件の整理サーバーの機種と台数を一緒に選ぶ
- 納品・設置納品・設置・初期設定
- 保守故障対応、増設、部品の交換
アプライド株式会社は福岡市に本社を置く東証スタンダード上場(証券コード3020)の会社です。研究開発向けの計算機を製造・販売し、NVIDIAのパートナーとして大学や研究機関、企業にGPUサーバーを納めています。HPC&AIサイト
弊社にご相談いただく理由
- サーバーからAIまで、窓口は一つアプライド株式会社と組み、サーバーの選定・納品・保守からAIの構築・運用まで、弊社が窓口になってお引き受けします。
- 製造業のシステムを作ってきた受注書の読み取り、生産管理の作り直し、図面からの見積の自動化など、製造業の業務システムを開発してきました。
- 専門のエンジニアが担当サーバーの構築はインフラのスペシャリストが、社内文書の検索の設計はRAGのスペシャリストが受け持ちます。
5進め方と費用
本番の前に、実際の質問で確かめます
- 01打ち合わせ
扱いたい文書と、AIに任せたい業務を伺います。
お客様弊社アプライド - 02構成と見積もり
機種と台数、使うモデル、つなぐ社内システムを決めます。
弊社アプライドお渡しするもの見積書
- 03設置と試験運用
サーバーを設置し、現場の方に実際の質問を20問ほど出していただきます。
お客様弊社アプライド- 回答の中身が合っているか
- 示した参照元が正しいか
- 回答までにかかる時間
- 20問を確かめてから04本番運用
社内の担当者が文書を追加できる状態で引き渡します。
弊社アプライドお渡しするもの文書を追加できる検索システム
お客様弊社アプライド株式会社=その段階で関わる会社
費用
最初に一度
- 機器代サーバー本体。機種と台数で変わります
- 初期構築費文書の読み込み、検索の設定、試験運用、社内担当者への引き継ぎ
導入後も継続
- 運用・保守費検索設定の調整と、機器の故障対応
見積もりを左右する条件
- 文書の量とファイルの種類
- 同時に使う人数
- つなぐ社内システム(連携は別途)
- インターネット接続の有無
金額は構成によって変わるため、個別にお見積もりします。設備投資の補助金や研修の助成金が使えるかどうかも、あわせて確認します。
近い課題の開発事例
オンプレAIの導入事例ではありません。図面や紙の記録、ベテランの判断を扱った製造業の開発事例です。
熟練工ノウハウ可視化システムベテランの判断をヒアリング音声や写真から整理し、本人が直せるたたき台にした事例
見積書自動作成システム形式の違う図面を読み取り、材料費と加工費を積算する仕組みを作った事例
受注書OCR&管理システムFAXや紙の注文書を専用に調整したOCRで読み取り、確認が要る項目だけを人が見る運用にした事例
導入の前に、何から読めばよいか
知りたい段階から読めます。上から順に読むと、ローカルLLMの仕組みから、サーバーの構築、実際の運用までを順に追えます。
- 1知るローカルLLMとは仕組みと、向いている業務・向かない業務の見分け方です。導入手順と費用の考え方も整理しています。
- 2選ぶローカルLLMのおすすめモデル日本語の精度、モデルの規模、ライセンス、更新の続けやすさなど、業務でモデルを選ぶ5つの基準です。
- 3サーバーを選ぶDGX Sparkで社内AIは何ができるか机に置ける小型AIサーバーでできることと、向いている3つの活用場面、選ぶときの基準です。
- 4立てるローカルLLMの構築手順社内AIサーバーを立てるまでの5つのステップと、構築でつまずきやすい3つの点です。
- 5運用する技術者向けローカルLLMの企業運用に正解を出してみる費用、待ち時間、日本語の正確さを、先行研究の数値と、手元の機材で測った結果から確かめた記録です。
- 6図面を探す技術者向け紙図面のAI検索に正解を出してみるスキャンした図面をAIで探せるようにする工程を、仕分け・OCR・注釈の生成・構造化の順に試した記録です。
6ご質問
検討中の方からのご質問
- Q. クラウドのAIと同じ精度は出ますか。
- A. 使うモデルが違うので、作業によっては差が出ます。最初に実際の文書で精度を確かめます。クラウドを併用する場合も、使うのは機密を含まない作業に限ります。
- Q. すでに社内にあるサーバーは使えますか。
- A. AIの計算に使うGPUが載っているか、そのGPUの世代とメモリの量を確認し、使えるものは使います。新しく買わずに済む場合もあります。
- Q. 何台あればよいですか。
- A. 使うモデルと、同時に質問する人数で決まります。1台で試し、応答の速さを測ってから台数を決めます。
ご相談と資料
社外に出せない文書がある方へ
対象にしたい文書がどこに何件くらいあるか、誰がどんな質問をしたいかを教えてください。まだ決まっていなくても構いません。
担当者の定年、認証の更新審査、サーバーの更新、補助金の締め切りなど、期限が決まっていればあわせてお知らせください。
ご相談は京都・百万遍のオフィスでも、オンラインでもお受けします。秘密保持契約を先に結ぶこともできます。






