ローカルLLM企業の導入事例|業界別に一次ソース付きで紹介

ローカルLLM導入事例まとめ|業界別の企業導入イメージ
悩んでる人

他社はどうやってローカルLLMを社内に導入しているんだろう。

情シス あおい

実名の公式発表だけを、業界別に整理しました。

情シスやDX推進担当者にとって、稟議を通す一番の材料は他社の実例です。

とはいえ、多くのまとめ記事は企業名だけで、使用モデルや効果の数値までは書いていません。

そこで、公式発表元までさかのぼり、確認日つきで事例を整理しました。

今回は、金融・医療・自治体・製造・IT業界のローカルLLM企業の導入事例を業界別に紹介します。

この記事でわかること
  • 自社の業界に近い事例を、確認日つきの公式発表から探せること
  • 「閉域クラウド」と「真のオンプレ」の技術的な違い
  • 事例に共通する導入理由と、自社に当てはめて考える視点

各社の公式発表・プレスリリースを出典に、確認日を添えて整理しています。

気になる業界がある方は、金融業界の事例から確認してください。

目次

ローカルLLM 導入事例|企業がオンプレ化を選ぶ理由

ローカルLLM導入事例|企業がオンプレ化を選ぶ3つの理由の図解

企業がローカルLLMを選ぶ最大の理由は、クラウド生成AIに機密情報を送れない制約があるためです。

クラウド生成AIで越えられない壁(機密情報・LGWAN・院内規定)

金融機関は、顧客情報や内部データを外部に送信しないことを最優先します。

自治体業務の多くはLGWAN(総合行政ネットワーク)という閉域網で運用され、機微な個人情報をクラウドへ送るのは制約されています。

医療機関でも、電子カルテなど患者の個人情報を外部に出せないケースが典型的です。

業界を問わず「扱う情報が外に出せるかどうか」が、最初の分かれ道になっています。

「閉域クラウド」と「真のオンプレ」の違い

悩んでる人

「オンプレ」ってどれも同じ意味だと思っていました。

情シス あおい

閉域クラウドと真のオンプレは、実は別物です。

導入事例を正しく比較するには、この2つを区別しておく必要があります。

閉域クラウドと真のオンプレの違い

真のオンプレ:庁内・院内・行内のネットワークで完結する構成です(例:宮崎県の庁内サーバー、三重大学病院のネットワーク内)。

閉域クラウド:インターネットからは分離されていますが、クラウド基盤上に構築されています(例:常陽銀行のAzure VNet)。

同じ「オンプレ」という言葉でも、この2つは技術的には別物です。本記事では事例ごとに区別して書いています。

コスト・カスタマイズ性という第二の動機

セキュリティ以外の動機は、コストとカスタマイズ性です。

クラウドの従量課金は、社内の大量チェック処理と相性が悪い場合があります。

自社データで学習させた専用LLMを作れる点も、汎用のクラウドAIにはない利点です。

金融業界のローカルLLM導入事例|あおぞら銀行・常陽銀行

ローカルLLM導入事例|金融業界の2つの導入アプローチ図解

金融機関は、行内データを学習させた専用LLMと、閉域クラウド上のローカルLLMの両方を採用しています。

あおぞら銀行×neoAI|行内データ学習で精度130%

あおぞら銀行は、neoAIと共同で「あおぞらLLM」(仮称)を開発しています。

オープンソースLLMをベースに、行内データで継続的に事前学習させた点が特徴です。

クラウド生成AIでは両立できなかったセキュリティ担保と行内情報の学習を、同時に実現しました。

行内ベンチマークでは、難易度の高い問いへの応答精度が従来比130%に向上したと公表されています(2026年8月11日確認)。

用途は法人・リテールの事務規定管理業務や、融資業務の照会対応です。

※出典:neoAI公式プレスリリース(2025年4月17日発表)/確認日 2026年8月11日

常陽銀行×Athena Technologies|閉域クラウドでの翻訳・マスキング

常陽銀行は、松尾研発スタートアップのAthena Technologiesと「JOYO AI AGENT」を開発しました。

動作環境は、インターネットから物理的に分離された閉域クラウド(Azure VNet)です。

真のオンプレミスではない点に注意してください。庁内・院内で完結する構成とは異なります。

2026年3月から、金融文書の翻訳と個人情報マスキングを導入済みです(2026年8月11日確認)。

稟議書レビューや、財務諸表からの業務文書自動作成は試行中の段階です。

※出典:Athena Technologies公式導入事例(2026年3月26日発表)/確認日 2026年8月11日

金融機関がローカルにこだわる理由

2つの事例に共通するのは、顧客情報を外部へ一切出さないという原則です。

あおぞら銀行は行内データの学習まで踏み込み、常陽銀行はまず翻訳・マスキングという定型業務から始めています。

導入の深さは違っても、効果を段階的に公表している点は金融2社に共通しています。

スクロールできます
事業者名使用モデル・ツール導入形態公表されている効果最終更新
あおぞら銀行オープンソースLLM(行内データで継続学習)オンプレミス応答精度130%(行内ベンチマーク)26年8月
常陽銀行非公表(ローカルLLM)閉域クラウド(Azure VNet)翻訳・マスキングを導入済み(数値非公表)26年8月

医療機関のローカルLLM導入事例|織田病院・那須赤十字病院・三重大病院

ローカルLLM導入事例|医療機関の活用場面(看護・退院サマリー)の図解

医療機関では、電子カルテや看護記録などの患者情報を外部に出さない構成が主流です。

織田病院|ワークステーション1台とLlama 2で看護サマリー54.2%削減

佐賀県鹿島市の織田病院は、電子カルテと連携するセキュアLLM「OPTiM AI」を2024年3月に発表しました。

入退院時の看護サマリー作成を自動化する取り組みで、このプレスリリース自体には効果の数値が公表されていません。

※出典:オプティム公式プレスリリース(2024年3月29日発表)/確認日 2026年8月11日

一方、日本HPも同じ織田病院の事例として、別の構成を公式に紹介しています。

HP Z4 Rack G5 Workstation 1台と、オープンソースのLlama 2を組み合わせた構成です。

2024年4月から10月までの6ヶ月間で、看護サマリー作成時間が54.2%削減されました(2026年8月11日確認)。

※出典:日本HP公式導入事例記事/確認日 2026年8月11日

この2つの発表が同一システムを指すのかは、公表資料からは判断できません。別の情報源として扱っています。

那須赤十字病院×リコー|7Bモデルのオンプレ・Difyパッケージ

栃木県の那須赤十字病院は、リコー開発の70億パラメータLLMをオンプレミスで導入しました。

生成AIアプリ開発基盤「Dify」と組み合わせたパッケージ構成です。

電子カルテ・看護記録・リハビリ記録を集約し、退院サマリーのドラフトを自動生成します。

個人を特定できる情報を扱う組織ではクラウド処理が難しいという事情が、導入の背景にあります(2026年8月11日確認)。

※出典:リコー公式リリース(2025年4月30日発表)/確認日 2026年8月11日

三重大学病院・新潟大学|tsuzumiによる退院サマリー支援

三重大学医学部附属病院は、NTT西日本の軽量LLM「tsuzumi」を院内ネットワーク内で実証しました。

70億パラメータの軽量モデルに、退院サマリー特化の追加学習を行っています。

三重大病院の退院サマリーは年間約1.5万件で、1件あたり約30分かかるとされています(削減効果は非公表)。

※出典:NTT西日本公式ニュースリリース(2024年11月1日発表)/確認日 2026年8月11日

新潟大学もtsuzumiで医療文書作成支援AIの共同研究を進めていますが、動作環境は公表資料に明記されていません。

※出典:NTT東日本公式リリース/確認日 2026年8月11日

スクロールできます
事業者名使用モデル・ツール導入形態公表されている効果最終更新
織田病院Llama 2+ワークステーション1台オンプレミス看護サマリー作成時間54.2%削減26年8月
那須赤十字病院リコー製7Bパラメータ+Difyオンプレミス非公表26年8月
三重大学病院tsuzumi(70億パラメータ、追加学習)オンプレミス(院内ネットワーク)非公表(対象年間1.5万件)26年8月

自治体・官公庁のローカルLLM導入事例|宮崎県・山口県・デジタル庁

ローカルLLM導入事例|自治体・官公庁の3つの導入形態の図解

自治体・官公庁では、LGWANという閉域網の制約がローカルLLM選定の出発点になっています。

宮崎県|庁内サーバーによる真のオンプレミス基盤

宮崎県は、Sparticleの「プライベート版GBase」を庁内専用のオンプレミス基盤として導入しました。

HPE ProLiant DL385 Gen11サーバーとNVIDIAのアクセラレータで構築され、庁内サーバーで完結する真のオンプレミスです。

給与・旅費・会計事務などの申請手続きチェック業務から、運用を始めています。

将来的には「AI薬剤師」や、災害対応職員向けのAIチャットボットも計画されています(2026年8月11日確認)。

※出典:日本ヒューレット・パッカード公式リリース(2026年4月23日発表)/確認日 2026年8月11日

山口県・広島県三原市|機微データ業務の実証実験

山口県NTT西日本と、小型GPUサーバー1台でtsuzumiを動かすオンプレミス環境を実証しました。

業務記録の要約・校正や、業務マニュアルの検索・要約に使われています。

※出典:NTT西日本公式ニュースリリース/確認日 2026年8月11日

広島県三原市は、固定資産税の納税義務者を特定する相続調査業務をローカルLLMで自動化しています。

三原市の担当者は「庁内のネットワークで完結しない限り導入はできません」とコメントしています(2026年8月11日確認)。

※出典:広島県公式「ひろしまサンドボックス」note/確認日 2026年8月11日

デジタル庁「源内」|国産LLM5社と閉域クラウドの位置づけ

デジタル庁は、ガバメントAI「源内」を全府省庁・約18万人へ展開中です。

源内本体は政府のガバメントクラウド上で動作しており、厳密なオンプレミスではありません。

NTTデータ「tsuzumi 2」やソフトバンク「Sarashina3 mini」など、国産LLM5社を公募・選定して試用しています。

一方、Preferred Networksの「PLaMo翻訳」は、2025年12月からオンプレミス環境で稼働しています。

同じ「源内」の枠組みでも、コンポーネントによって導入形態が異なる点に注意してください(2026年8月11日確認)。

※出典:デジタル庁公式資料、Preferred Networks公式リリース/確認日 2026年8月11日

スクロールできます
事業者名使用モデル・ツール導入形態公表されている効果最終更新
宮崎県プライベート版GBase真のオンプレミス非公表26年8月
山口県tsuzumi真のオンプレミス(小型GPUサーバー1台)非公表26年8月
広島県三原市非公表(ローカルサーバー上のLLM)真のオンプレミス非公表26年8月
デジタル庁「源内」国産LLM5社(tsuzumi 2ほか)閉域クラウド(本体)/オンプレ(PLaMo翻訳のみ)約18万人へ展開予定26年8月

製造業のローカルLLM導入事例|パナソニックHD・IHI・ダイフク

ローカルLLM導入事例|製造業の3つの活用パターンの図解

製造業では、設計文書や社内データの機密性がローカルLLM導入の主な動機です。

パナソニックHD×ストックマーク|1,000億パラメータの企業専用LLM

パナソニックホールディングスは、ストックマークと「Panasonic-LLM-100b」を開発しています。

国産オープンモデル「Stockmark-LLM-100b」(1,000億パラメータ)に、グループの社内データを追加学習させました。

発表時点で企業専用LLMとして国内最大規模とされています(2026年8月11日確認)。

グループ外への提供は想定せず、各事業会社のAI開発・社会実装を加速する用途です。

※出典:パナソニック公式プレスリリース(2024年7月2日発表)/確認日 2026年8月11日

IHI|オンプレミスRAGと小規模言語モデルによる設計支援

IHIは、少ない計算機リソースで動く小規模言語モデル(SLM)とオンプレミスRAGを組み合わせています。

量子化によってメモリ消費を抑え、高速化を図っている点が特徴です。

製品の設計基準文書からの情報抽出や、規定検索・リスク評価の補助に使われています。

設計部門ユーザーからは役立つとの評価がある一方、適用範囲はまだ限定的だと自己評価しています(2026年8月11日確認)。

※出典:IHI公式技術記事(2025年3月公表)/確認日 2026年8月11日

ダイフク|部門単位で導入したオンプレLLMパッケージ

ダイフクのクリーンルーム事業部は、リコー製70Bパラメータのオンプレパッケージを導入しました。

「RICOH オンプレLLMスターターキット」を使い、社内Wiki連携AIアプリを構築しています。

ダイフク自体は大企業ですが、全社一括ではなく部門単位で導入した例として参考になります。

大量文書の要点抽出に加え、Q&Aチャットボットや営業支援AIエージェントも計画中です(2026年8月11日確認)。

※出典:リコー公式配信リリース(2026年2月16日発表)/確認日 2026年8月11日

スクロールできます
事業者名使用モデル・ツール導入形態公表されている効果最終更新
パナソニックHDPanasonic-LLM-100b(1,000億パラメータ)グループ専用環境非公表(国内最大規模の企業専用LLM)26年8月
IHISLM(非公表)+オンプレミスRAGオンプレミス非公表26年8月
ダイフクリコー製70Bパラメータ+Difyオンプレミス(部門単位)非公表26年8月

IT・ゲーム業界のローカルLLM導入事例|セガ・サイバーエージェント・ベリサーブ

ローカルLLM導入事例|IT・ゲーム業界の活用パターンの図解

IT・ゲーム業界では、コストと手元のGPU資産を生かす動機が目立ちます。

セガ|Ollama+Gemmaで実現した社内AI活用(※CEDEC2025講演由来)

この事例はCEDEC2025講演の報道をもとにしています。セガ自身の資料公開は確認できていません。

セガは、Ollamaを共通AIサーバーとして使い、Google「Gemma 2」「Gemma 3」を活用しています。

プレイヤーの不適切発言チェックや、ローカライズの効率化、字幕と音声の整合性チェックなどに使われています。

画像判定ではVLMを使い、98〜99%の精度が講演で示されました(2026年8月11日確認)。

クラウドの従量課金と、チェック系の大量処理は相性が悪いという判断が動機だったと報じられています。

※出典:ITmedia講演報道(CEDEC2025・2025年7月22〜24日)/確認日 2026年8月11日

サイバーエージェント|自社GPU基盤で開発・運用するLLM

サイバーエージェントは、2023年にNVIDIA DGX H100を国内で初めて導入しました。

自社管理データセンターに、H100 GPUを80基設置しています。

自社開発LLM「CyberAgentLM」系列を、自社の機械学習基盤上で開発・運用しています。

広告クリエイティブの自動生成や、「極予測AI」などの広告AIサービスに活用されています(2026年8月11日確認)。

※出典:サイバーエージェント公式プレスリリース(2023年1月31日発表)/確認日 2026年8月11日

ベリサーブ|社内ネットワーク上のローカルLLM基盤

ベリサーブは、SCSKグループの中堅企業として社内ネットワーク上にローカルLLM基盤を構築しました。

テスト観点の抽出や、仕様書の要点整理、テストデータ生成の補助に使っています。

顧客案件で情報漏えいリスクや社内規定によりクラウド型生成AIを使えないケースがあることが、導入理由です(2026年8月11日確認)。

※出典:ベリサーブ公式ニュース(2026年7月30日発表)/確認日 2026年8月11日

スクロールできます
事業者名使用モデル・ツール導入形態公表されている効果最終更新
セガ(※講演報道由来)Ollama+Gemma 2/3社内サーバー画像判定98〜99%の精度26年8月
サイバーエージェントCyberAgentLM系列自社データセンター(DGX H100×80基)非公表26年8月
ベリサーブ非公表社内ネットワーク非公表26年8月

ローカルLLM 導入事例|共通する導入パターンと自社への当てはめ方

ローカルLLM導入事例|共通する導入理由と自社への当てはめ方の図解

業界を横断すると、ローカルLLM導入の背景には3つの共通パターンが見えてきます。

事例に共通する3つの導入理由(機密保持・規制対応・コスト)

1つ目は、顧客・患者情報などの機密保持です。金融・医療の事例に共通しています。

2つ目は、LGWANのような規制対応です。自治体・官公庁で顕著な理由です。

3つ目は、コストとカスタマイズ性です。セガやパナソニックHDのような事例に見られます。

どの業界も、この3つのうち複数が重なって導入を後押ししています。

小規模から始められる(織田病院のワークステーション1台という実例)

織田病院の事例は、ワークステーション1台でも成果が出せることを示しています。

大規模なGPUクラスタがなくても、無料のオープンソースモデルで導入できます。

全社導入の前に、小さく試せる範囲から始められるのがローカルLLMの利点です。

自社に置き換えて考える視点

悩んでる人

うちの業界は載っていない……どう考えればいい?

情シス あおい

業界ではなく、扱うデータの機微さで考えてください。

事例を読んで「自社にも必要か」を判断する軸は、業界そのものではありません。

具体的な構成・費用・セキュリティ要件の検討は、企業導入ガイドの記事に譲ります。

稟議に向けたセキュリティ確認項目や、導入費用の目安を知りたい場合も、別記事で扱っています。

ローカルLLM導入事例によくある質問

ローカルLLMの企業導入事例について、よくある質問をまとめました。

中小企業や中堅企業でもローカルLLMを導入できますか?

SCSKグループの中堅企業であるベリサーブが、社内ネットワーク上にローカルLLM基盤を構築した事例があります。

織田病院のようにワークステーション1台から始めた事例もあり、規模の大小は導入の必須条件ではありません。

クラウド生成AIと比べて何が違うのですか?

最大の違いは、機密情報や個人情報を外部に送信せずに処理できる点です。

金融機関の顧客情報、医療機関の電子カルテ、自治体のLGWAN対象業務など、外部送信が制約される情報を扱う場面で選ばれています。

「閉域クラウド」と「オンプレミス」は同じ意味ですか?

技術的には別物です。真のオンプレミスは、庁内・院内のネットワークで完結する構成のことです。

閉域クラウドはインターネットから分離されていますが、クラウド基盤上に構築されている点が異なります。

記事で紹介している数値はどこまで信用できますか?

各社の公式発表・プレスリリースに掲載された公表値のみを使い、確認日を添えて記載しています。

公表されていない効果は「非公表」と明記し、推測では埋めていません。セガの事例のみ講演報道に基づく準一次情報である旨を本文で注記しています。

まとめ|ローカルLLM 導入事例から見る次の一歩

17件の事例を通じて、業界ごとに異なる制約と共通する動機が見えてきました。

この記事のまとめ

金融:行内データの学習と、閉域クラウドでの翻訳・マスキングという2つのアプローチがあります。

医療:織田病院はワークステーション1台でも、看護サマリー作成時間を54.2%削減しました。

自治体・官公庁:LGWANの制約から、庁内サーバーで完結する真のオンプレミスが選ばれています。

製造・IT:機密保持に加え、コストとカスタマイズ性がローカルLLMを選ぶ動機です。

事例に共通するのは、機密保持・規制対応・コストのいずれかが導入の出発点になっている点です。

自社の業界に近い事例から、必要な構成や規模感をつかんでみてください。

事例を見て検討を進めたくなった方は、次の記事もあわせてご確認ください。

出典一覧|業界別17件の企業と一次ソース

本文で紹介した17件について、出典元と発表日、確認日を一覧にまとめました。

スクロールできます
企業・組織名出典(発表元・種別)発表日確認日
あおぞら銀行neoAI公式プレスリリース2025年4月17日発表2026年8月11日
常陽銀行Athena Technologies公式導入事例2026年3月26日発表2026年8月11日
織田病院(オプティム発表)オプティム公式プレスリリース2024年3月29日発表2026年8月11日
織田病院(日本HP発表)日本HP公式導入事例記事記載なし2026年8月11日
那須赤十字病院リコー公式リリース2025年4月30日発表2026年8月11日
三重大学病院NTT西日本公式ニュースリリース2024年11月1日発表2026年8月11日
新潟大学NTT東日本公式リリース記載なし2026年8月11日
宮崎県日本ヒューレット・パッカード公式リリース2026年4月23日発表2026年8月11日
山口県NTT西日本公式ニュースリリース記載なし2026年8月11日
広島県三原市広島県公式「ひろしまサンドボックス」note記載なし2026年8月11日
デジタル庁「源内」デジタル庁公式資料記載なし2026年8月11日
Preferred Networks「PLaMo翻訳」Preferred Networks公式リリース記載なし2026年8月11日
パナソニックHDパナソニック公式プレスリリース2024年7月2日発表2026年8月11日
IHIIHI公式技術記事2025年3月公表2026年8月11日
ダイフクリコー公式配信リリース2026年2月16日発表2026年8月11日
セガ(※講演報道)ITmedia(CEDEC2025講演報道)2025年7月22〜24日講演2026年8月11日
サイバーエージェントサイバーエージェント公式プレスリリース2023年1月31日発表2026年8月11日
ベリサーブベリサーブ公式ニュース2026年7月30日発表2026年8月11日

セガのみCEDEC2025講演の報道に基づく準一次情報のため、他の16件と区別して表記しています。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

コメント

コメントする

目次