悩んでる人他社はどうやってローカルLLMを社内に導入しているんだろう。



実名の公式発表だけを、業界別に整理しました。
情シスやDX推進担当者にとって、稟議を通す一番の材料は他社の実例です。
とはいえ、多くのまとめ記事は企業名だけで、使用モデルや効果の数値までは書いていません。
そこで、公式発表元までさかのぼり、確認日つきで事例を整理しました。
今回は、金融・医療・自治体・製造・IT業界のローカルLLM企業の導入事例を業界別に紹介します。
- 自社の業界に近い事例を、確認日つきの公式発表から探せること
- 「閉域クラウド」と「真のオンプレ」の技術的な違い
- 事例に共通する導入理由と、自社に当てはめて考える視点
各社の公式発表・プレスリリースを出典に、確認日を添えて整理しています。
気になる業界がある方は、金融業界の事例から確認してください。
ローカルLLM 導入事例|企業がオンプレ化を選ぶ理由


企業がローカルLLMを選ぶ最大の理由は、クラウド生成AIに機密情報を送れない制約があるためです。
クラウド生成AIで越えられない壁(機密情報・LGWAN・院内規定)
金融機関は、顧客情報や内部データを外部に送信しないことを最優先します。
自治体業務の多くはLGWAN(総合行政ネットワーク)という閉域網で運用され、機微な個人情報をクラウドへ送るのは制約されています。
医療機関でも、電子カルテなど患者の個人情報を外部に出せないケースが典型的です。
業界を問わず「扱う情報が外に出せるかどうか」が、最初の分かれ道になっています。
「閉域クラウド」と「真のオンプレ」の違い



「オンプレ」ってどれも同じ意味だと思っていました。



閉域クラウドと真のオンプレは、実は別物です。
導入事例を正しく比較するには、この2つを区別しておく必要があります。
真のオンプレ:庁内・院内・行内のネットワークで完結する構成です(例:宮崎県の庁内サーバー、三重大学病院のネットワーク内)。
閉域クラウド:インターネットからは分離されていますが、クラウド基盤上に構築されています(例:常陽銀行のAzure VNet)。
同じ「オンプレ」という言葉でも、この2つは技術的には別物です。本記事では事例ごとに区別して書いています。
コスト・カスタマイズ性という第二の動機
セキュリティ以外の動機は、コストとカスタマイズ性です。
クラウドの従量課金は、社内の大量チェック処理と相性が悪い場合があります。
自社データで学習させた専用LLMを作れる点も、汎用のクラウドAIにはない利点です。
金融業界のローカルLLM導入事例|あおぞら銀行・常陽銀行


金融機関は、行内データを学習させた専用LLMと、閉域クラウド上のローカルLLMの両方を採用しています。
あおぞら銀行×neoAI|行内データ学習で精度130%
あおぞら銀行は、neoAIと共同で「あおぞらLLM」(仮称)を開発しています。
オープンソースLLMをベースに、行内データで継続的に事前学習させた点が特徴です。
クラウド生成AIでは両立できなかったセキュリティ担保と行内情報の学習を、同時に実現しました。
行内ベンチマークでは、難易度の高い問いへの応答精度が従来比130%に向上したと公表されています(2026年8月11日確認)。
用途は法人・リテールの事務規定管理業務や、融資業務の照会対応です。
※出典:neoAI公式プレスリリース(2025年4月17日発表)/確認日 2026年8月11日
常陽銀行×Athena Technologies|閉域クラウドでの翻訳・マスキング
常陽銀行は、松尾研発スタートアップのAthena Technologiesと「JOYO AI AGENT」を開発しました。
動作環境は、インターネットから物理的に分離された閉域クラウド(Azure VNet)です。
真のオンプレミスではない点に注意してください。庁内・院内で完結する構成とは異なります。
2026年3月から、金融文書の翻訳と個人情報マスキングを導入済みです(2026年8月11日確認)。
稟議書レビューや、財務諸表からの業務文書自動作成は試行中の段階です。
※出典:Athena Technologies公式導入事例(2026年3月26日発表)/確認日 2026年8月11日
金融機関がローカルにこだわる理由
2つの事例に共通するのは、顧客情報を外部へ一切出さないという原則です。
あおぞら銀行は行内データの学習まで踏み込み、常陽銀行はまず翻訳・マスキングという定型業務から始めています。
導入の深さは違っても、効果を段階的に公表している点は金融2社に共通しています。
医療機関のローカルLLM導入事例|織田病院・那須赤十字病院・三重大病院


医療機関では、電子カルテや看護記録などの患者情報を外部に出さない構成が主流です。
織田病院|ワークステーション1台とLlama 2で看護サマリー54.2%削減
佐賀県鹿島市の織田病院は、電子カルテと連携するセキュアLLM「OPTiM AI」を2024年3月に発表しました。
入退院時の看護サマリー作成を自動化する取り組みで、このプレスリリース自体には効果の数値が公表されていません。
※出典:オプティム公式プレスリリース(2024年3月29日発表)/確認日 2026年8月11日
一方、日本HPも同じ織田病院の事例として、別の構成を公式に紹介しています。
HP Z4 Rack G5 Workstation 1台と、オープンソースのLlama 2を組み合わせた構成です。
2024年4月から10月までの6ヶ月間で、看護サマリー作成時間が54.2%削減されました(2026年8月11日確認)。
※出典:日本HP公式導入事例記事/確認日 2026年8月11日
この2つの発表が同一システムを指すのかは、公表資料からは判断できません。別の情報源として扱っています。
那須赤十字病院×リコー|7Bモデルのオンプレ・Difyパッケージ
栃木県の那須赤十字病院は、リコー開発の70億パラメータLLMをオンプレミスで導入しました。
生成AIアプリ開発基盤「Dify」と組み合わせたパッケージ構成です。
電子カルテ・看護記録・リハビリ記録を集約し、退院サマリーのドラフトを自動生成します。
個人を特定できる情報を扱う組織ではクラウド処理が難しいという事情が、導入の背景にあります(2026年8月11日確認)。
※出典:リコー公式リリース(2025年4月30日発表)/確認日 2026年8月11日
三重大学病院・新潟大学|tsuzumiによる退院サマリー支援
三重大学医学部附属病院は、NTT西日本の軽量LLM「tsuzumi」を院内ネットワーク内で実証しました。
70億パラメータの軽量モデルに、退院サマリー特化の追加学習を行っています。
三重大病院の退院サマリーは年間約1.5万件で、1件あたり約30分かかるとされています(削減効果は非公表)。
※出典:NTT西日本公式ニュースリリース(2024年11月1日発表)/確認日 2026年8月11日
新潟大学もtsuzumiで医療文書作成支援AIの共同研究を進めていますが、動作環境は公表資料に明記されていません。
※出典:NTT東日本公式リリース/確認日 2026年8月11日
自治体・官公庁のローカルLLM導入事例|宮崎県・山口県・デジタル庁


自治体・官公庁では、LGWANという閉域網の制約がローカルLLM選定の出発点になっています。
宮崎県|庁内サーバーによる真のオンプレミス基盤
宮崎県は、Sparticleの「プライベート版GBase」を庁内専用のオンプレミス基盤として導入しました。
HPE ProLiant DL385 Gen11サーバーとNVIDIAのアクセラレータで構築され、庁内サーバーで完結する真のオンプレミスです。
給与・旅費・会計事務などの申請手続きチェック業務から、運用を始めています。
将来的には「AI薬剤師」や、災害対応職員向けのAIチャットボットも計画されています(2026年8月11日確認)。
※出典:日本ヒューレット・パッカード公式リリース(2026年4月23日発表)/確認日 2026年8月11日
山口県・広島県三原市|機微データ業務の実証実験
山口県はNTT西日本と、小型GPUサーバー1台でtsuzumiを動かすオンプレミス環境を実証しました。
業務記録の要約・校正や、業務マニュアルの検索・要約に使われています。
※出典:NTT西日本公式ニュースリリース/確認日 2026年8月11日
広島県三原市は、固定資産税の納税義務者を特定する相続調査業務をローカルLLMで自動化しています。
※出典:広島県公式「ひろしまサンドボックス」note/確認日 2026年8月11日
デジタル庁「源内」|国産LLM5社と閉域クラウドの位置づけ
デジタル庁は、ガバメントAI「源内」を全府省庁・約18万人へ展開中です。
源内本体は政府のガバメントクラウド上で動作しており、厳密なオンプレミスではありません。
NTTデータ「tsuzumi 2」やソフトバンク「Sarashina3 mini」など、国産LLM5社を公募・選定して試用しています。
一方、Preferred Networksの「PLaMo翻訳」は、2025年12月からオンプレミス環境で稼働しています。
同じ「源内」の枠組みでも、コンポーネントによって導入形態が異なる点に注意してください(2026年8月11日確認)。
※出典:デジタル庁公式資料、Preferred Networks公式リリース/確認日 2026年8月11日
製造業のローカルLLM導入事例|パナソニックHD・IHI・ダイフク


製造業では、設計文書や社内データの機密性がローカルLLM導入の主な動機です。
パナソニックHD×ストックマーク|1,000億パラメータの企業専用LLM
パナソニックホールディングスは、ストックマークと「Panasonic-LLM-100b」を開発しています。
国産オープンモデル「Stockmark-LLM-100b」(1,000億パラメータ)に、グループの社内データを追加学習させました。
発表時点で企業専用LLMとして国内最大規模とされています(2026年8月11日確認)。
グループ外への提供は想定せず、各事業会社のAI開発・社会実装を加速する用途です。
※出典:パナソニック公式プレスリリース(2024年7月2日発表)/確認日 2026年8月11日
IHI|オンプレミスRAGと小規模言語モデルによる設計支援
IHIは、少ない計算機リソースで動く小規模言語モデル(SLM)とオンプレミスRAGを組み合わせています。
量子化によってメモリ消費を抑え、高速化を図っている点が特徴です。
製品の設計基準文書からの情報抽出や、規定検索・リスク評価の補助に使われています。
※出典:IHI公式技術記事(2025年3月公表)/確認日 2026年8月11日
ダイフク|部門単位で導入したオンプレLLMパッケージ
ダイフクのクリーンルーム事業部は、リコー製70Bパラメータのオンプレパッケージを導入しました。
「RICOH オンプレLLMスターターキット」を使い、社内Wiki連携AIアプリを構築しています。
ダイフク自体は大企業ですが、全社一括ではなく部門単位で導入した例として参考になります。
大量文書の要点抽出に加え、Q&Aチャットボットや営業支援AIエージェントも計画中です(2026年8月11日確認)。
※出典:リコー公式配信リリース(2026年2月16日発表)/確認日 2026年8月11日
IT・ゲーム業界のローカルLLM導入事例|セガ・サイバーエージェント・ベリサーブ


IT・ゲーム業界では、コストと手元のGPU資産を生かす動機が目立ちます。
セガ|Ollama+Gemmaで実現した社内AI活用(※CEDEC2025講演由来)
この事例はCEDEC2025講演の報道をもとにしています。セガ自身の資料公開は確認できていません。
セガは、Ollamaを共通AIサーバーとして使い、Google「Gemma 2」「Gemma 3」を活用しています。
プレイヤーの不適切発言チェックや、ローカライズの効率化、字幕と音声の整合性チェックなどに使われています。
画像判定ではVLMを使い、98〜99%の精度が講演で示されました(2026年8月11日確認)。
クラウドの従量課金と、チェック系の大量処理は相性が悪いという判断が動機だったと報じられています。
※出典:ITmedia講演報道(CEDEC2025・2025年7月22〜24日)/確認日 2026年8月11日
サイバーエージェント|自社GPU基盤で開発・運用するLLM
サイバーエージェントは、2023年にNVIDIA DGX H100を国内で初めて導入しました。
自社管理データセンターに、H100 GPUを80基設置しています。
自社開発LLM「CyberAgentLM」系列を、自社の機械学習基盤上で開発・運用しています。
広告クリエイティブの自動生成や、「極予測AI」などの広告AIサービスに活用されています(2026年8月11日確認)。
※出典:サイバーエージェント公式プレスリリース(2023年1月31日発表)/確認日 2026年8月11日
ベリサーブ|社内ネットワーク上のローカルLLM基盤
ベリサーブは、SCSKグループの中堅企業として社内ネットワーク上にローカルLLM基盤を構築しました。
テスト観点の抽出や、仕様書の要点整理、テストデータ生成の補助に使っています。
顧客案件で情報漏えいリスクや社内規定によりクラウド型生成AIを使えないケースがあることが、導入理由です(2026年8月11日確認)。
※出典:ベリサーブ公式ニュース(2026年7月30日発表)/確認日 2026年8月11日
| 事業者名 | 使用モデル・ツール | 導入形態 | 公表されている効果 | 最終更新 |
|---|---|---|---|---|
| セガ(※講演報道由来) | Ollama+Gemma 2/3 | 社内サーバー | 画像判定98〜99%の精度 | 26年8月 |
| サイバーエージェント | CyberAgentLM系列 | 自社データセンター(DGX H100×80基) | 非公表 | 26年8月 |
| ベリサーブ | 非公表 | 社内ネットワーク | 非公表 | 26年8月 |
ローカルLLM 導入事例|共通する導入パターンと自社への当てはめ方


業界を横断すると、ローカルLLM導入の背景には3つの共通パターンが見えてきます。
事例に共通する3つの導入理由(機密保持・規制対応・コスト)
1つ目は、顧客・患者情報などの機密保持です。金融・医療の事例に共通しています。
2つ目は、LGWANのような規制対応です。自治体・官公庁で顕著な理由です。
3つ目は、コストとカスタマイズ性です。セガやパナソニックHDのような事例に見られます。
どの業界も、この3つのうち複数が重なって導入を後押ししています。
小規模から始められる(織田病院のワークステーション1台という実例)
織田病院の事例は、ワークステーション1台でも成果が出せることを示しています。
大規模なGPUクラスタがなくても、無料のオープンソースモデルで導入できます。
全社導入の前に、小さく試せる範囲から始められるのがローカルLLMの利点です。
自社に置き換えて考える視点



うちの業界は載っていない……どう考えればいい?



業界ではなく、扱うデータの機微さで考えてください。
事例を読んで「自社にも必要か」を判断する軸は、業界そのものではありません。
具体的な構成・費用・セキュリティ要件の検討は、企業導入ガイドの記事に譲ります。
稟議に向けたセキュリティ確認項目や、導入費用の目安を知りたい場合も、別記事で扱っています。
ローカルLLM導入事例によくある質問
ローカルLLMの企業導入事例について、よくある質問をまとめました。
- 中小企業や中堅企業でもローカルLLMを導入できますか?
-
SCSKグループの中堅企業であるベリサーブが、社内ネットワーク上にローカルLLM基盤を構築した事例があります。
織田病院のようにワークステーション1台から始めた事例もあり、規模の大小は導入の必須条件ではありません。
- クラウド生成AIと比べて何が違うのですか?
-
最大の違いは、機密情報や個人情報を外部に送信せずに処理できる点です。
金融機関の顧客情報、医療機関の電子カルテ、自治体のLGWAN対象業務など、外部送信が制約される情報を扱う場面で選ばれています。
- 「閉域クラウド」と「オンプレミス」は同じ意味ですか?
-
技術的には別物です。真のオンプレミスは、庁内・院内のネットワークで完結する構成のことです。
閉域クラウドはインターネットから分離されていますが、クラウド基盤上に構築されている点が異なります。
- 記事で紹介している数値はどこまで信用できますか?
-
各社の公式発表・プレスリリースに掲載された公表値のみを使い、確認日を添えて記載しています。
公表されていない効果は「非公表」と明記し、推測では埋めていません。セガの事例のみ講演報道に基づく準一次情報である旨を本文で注記しています。
まとめ|ローカルLLM 導入事例から見る次の一歩
17件の事例を通じて、業界ごとに異なる制約と共通する動機が見えてきました。
金融:行内データの学習と、閉域クラウドでの翻訳・マスキングという2つのアプローチがあります。
医療:織田病院はワークステーション1台でも、看護サマリー作成時間を54.2%削減しました。
自治体・官公庁:LGWANの制約から、庁内サーバーで完結する真のオンプレミスが選ばれています。
製造・IT:機密保持に加え、コストとカスタマイズ性がローカルLLMを選ぶ動機です。
事例に共通するのは、機密保持・規制対応・コストのいずれかが導入の出発点になっている点です。
自社の業界に近い事例から、必要な構成や規模感をつかんでみてください。
事例を見て検討を進めたくなった方は、次の記事もあわせてご確認ください。
- ローカルLLMとクラウドLLMの違い:機密情報を扱える強みを解説しています
- ローカルLLMに必要なスペック:導入前に確認したいメモリの目安をまとめています
- ローカルLLMおすすめモデル比較:用途別にモデルを選ぶポイントを紹介しています
- ローカルLLMの企業導入(カテゴリトップ):企業導入関連の記事をまとめています
出典一覧|業界別17件の企業と一次ソース
本文で紹介した17件について、出典元と発表日、確認日を一覧にまとめました。
| 企業・組織名 | 出典(発表元・種別) | 発表日 | 確認日 |
|---|---|---|---|
| あおぞら銀行 | neoAI公式プレスリリース | 2025年4月17日発表 | 2026年8月11日 |
| 常陽銀行 | Athena Technologies公式導入事例 | 2026年3月26日発表 | 2026年8月11日 |
| 織田病院(オプティム発表) | オプティム公式プレスリリース | 2024年3月29日発表 | 2026年8月11日 |
| 織田病院(日本HP発表) | 日本HP公式導入事例記事 | 記載なし | 2026年8月11日 |
| 那須赤十字病院 | リコー公式リリース | 2025年4月30日発表 | 2026年8月11日 |
| 三重大学病院 | NTT西日本公式ニュースリリース | 2024年11月1日発表 | 2026年8月11日 |
| 新潟大学 | NTT東日本公式リリース | 記載なし | 2026年8月11日 |
| 宮崎県 | 日本ヒューレット・パッカード公式リリース | 2026年4月23日発表 | 2026年8月11日 |
| 山口県 | NTT西日本公式ニュースリリース | 記載なし | 2026年8月11日 |
| 広島県三原市 | 広島県公式「ひろしまサンドボックス」note | 記載なし | 2026年8月11日 |
| デジタル庁「源内」 | デジタル庁公式資料 | 記載なし | 2026年8月11日 |
| Preferred Networks「PLaMo翻訳」 | Preferred Networks公式リリース | 記載なし | 2026年8月11日 |
| パナソニックHD | パナソニック公式プレスリリース | 2024年7月2日発表 | 2026年8月11日 |
| IHI | IHI公式技術記事 | 2025年3月公表 | 2026年8月11日 |
| ダイフク | リコー公式配信リリース | 2026年2月16日発表 | 2026年8月11日 |
| セガ(※講演報道) | ITmedia(CEDEC2025講演報道) | 2025年7月22〜24日講演 | 2026年8月11日 |
| サイバーエージェント | サイバーエージェント公式プレスリリース | 2023年1月31日発表 | 2026年8月11日 |
| ベリサーブ | ベリサーブ公式ニュース | 2026年7月30日発表 | 2026年8月11日 |
セガのみCEDEC2025講演の報道に基づく準一次情報のため、他の16件と区別して表記しています。

コメント