悩んでる人社内の問い合わせ対応をAI化したいけど、質問内容を外部クラウドに送るのは気が引ける…
情シス あおい自社サーバーで動かす構成を選べば、データを外に出さずに作れます。
社内の問い合わせ対応をAIに任せたい。情シス・総務の担当者なら、一度は考えるテーマです。
とはいえ、検索上位に出てくるヘルプデスクAIは、ほぼすべてクラウドSaaS型です。
問い合わせ内容を社外サーバーに預ける前提が多く、機密性の高い部署では採用しづらいことがあります。
そこで、OSSを自社サーバーで動かし、外部クラウドに依存しない構成を組む方法を整理しました。
今回は、社内ヘルプデスクをローカルLLMとRAGで自社運用する構成例を紹介します。
- Slack・Teams接続、根拠表示、有人エスカレーションという3つの機能の実現方法
- Dify・Open WebUI・RAGFlow・AnythingLLM、4つのOSSで対応状況が違う理由
- 個人PoC・部署共有・全社導入という規模ごとに必要な構成の変わり方
先に製品の対応状況を比較したい方は4製品の比較表からどうぞ。
※本記事の構成は、各OSSの公式ドキュメントにもとづく整理です。導入前に最新の公式情報を確認してください（2026年10月確認）。
社内ヘルプデスクAI｜SaaS型チャットボットとの違いは「自社運用」
社内ヘルプデスクAIとして検索上位に並ぶ製品は、ほぼすべてクラウドSaaS型で、自社サーバーで動かす選択肢はほとんど見当たりません。
競合が訴求する「チャットツールへの一元化」
PKSHA TechnologyのAIヘルプデスクは、Microsoft Teamsへの一元化を前面に出しています。
マネーフォワードのAdmina AIヘルプデスクは、「根拠つき回答」という機能を訴求しています。
AIと有人対応を組み合わせ、ナレッジを自動で学習させるという発想も、競合に共通する特徴です。
「自社サーバーで動かす」という選択肢の有無
これらの記事やサービスページには、「ローカルLLM」「オンプレ」「自社運用」という言葉がほとんど出てきません。
つまり、競合が提示していないのはRAGという技術そのものではなく、外部クラウドに依存しない運用という選択肢です。
自社サーバーでAIを動かした企業の実例は、ローカルLLM企業導入事例でも業界別に確認できます。
本記事が想定する読者
想定しているのは、機密情報を外部に出したくない情シス・総務の担当者です。
自社サーバーで組む場合に、どこまで公式に対応しているかを事前に把握したい方に向けて整理しました。
問い合わせ対応に必要な3つの機能｜チャット接続・根拠表示・有人引き継ぎ
ヘルプデスクをAI化するには、チャット接続・回答の根拠表示・有人への引き継ぎという3つの機能が欠かせません。
既存チャットツールへの接続（Slack・Teams）
社員が普段使っているSlackやTeamsにAIを組み込めば、新しい画面を覚える手間がなくなります。
競合のSaaS製品がまず訴求するのも、この一元化という利便性です。
回答の根拠を示すCitation機能
AIの回答だけを信じるのは、どの職場でも不安が残ります。
回答のもとになった文書や箇所を示すCitation（引用元提示）機能があれば、担当者自身が内容を検証できます。
RAGを使った問い合わせ対応では、回答のヒット率の改善例も公表済みです。
利用者向けのヒット率は24.7%から86.2%に改善しています（NTT ExCパートナー公式・2026年10月確認）。
導入形態（オンプレかクラウドか）は公表されていないため、自社運用の成果として紹介するものではありません。
答えられないときの有人エスカレーション
AIが答えられない質問を無言で終わらせると、利用者の信頼が下がります。
人に引き継ぐ仕組みがあるかどうかは、運用を始めてから効いてくる機能です。
OSSで組む4つの選択肢｜Dify・Open WebUI・RAGFlow・AnythingLLM
自社運用でこの3つの機能を実現する手段として使えるのが、OSSという選択肢になります。
候補になるのは、Dify・Open WebUI・RAGFlow・AnythingLLMの4つです。
Dify｜チャット接続と有人エスカレーションを公式に持つ
悩んでる人4つもあると、どれを選べばいいか迷う…
情シス あおいチャット接続と有人対応まで求めるなら、まずDifyを確認してください。
Difyは、SlackとMicrosoft Teamsの両方に公式プラグインで接続できます。
公式マーケットプレイスでのインストール数は、Slack用プラグインが1.6万件超、Teams用プラグインが377件です（2026年10月確認）。
「Human Input」というワークフロー機能もあり、処理を一時停止して人の判断を挟めます。
ライセンスはApache 2.0の改変版で、商用利用は可能です。
Open WebUI｜SSO・権限管理が最も充実
Open WebUIは、4種の中でSSO・権限管理の公式ドキュメントが最も充実しています。
Okta・Microsoft Entra IDとの連携や、ロール別の権限設定（RBAC）が公式に案内されています。
一方で、直近30日の利用者が50人を超える環境でブランド表示を変更・削除するには、エンタープライズライセンスが必要です（2026年10月確認）。
SlackやTeamsへの公式連携、有人エスカレーション機能は、公式ドキュメントでは確認できませんでした。
RAGFlow・AnythingLLM｜チャット接続は自前実装が必要
RAGFlowは、チーム単位の権限管理を持ち、ライセンスはApache 2.0です。
公式が対応するチャットはDiscord・Telegramなど7種類で、SlackとTeamsは含まれていません。
AnythingLLMはMITライセンスで、公式のチャット連携はTelegramのみです。
SlackやTeamsに繋ぐなら、この2製品では自前の実装を検討する必要があります。
社内ヘルプデスクAIの機能比較｜Slack・Teams・根拠表示・有人対応・SSO
4製品を機能別に並べると、公式に対応している部分と未確認の部分がはっきり分かれます。
機能比較表
| ツール | Slack | Teams | 根拠表示 | 有人エスカレーション | SSO | 権限管理 |
|---|---|---|---|---|---|---|
| Dify | ◯（公式） | ◯（公式） | ◯ | ◯（Human Input） | 未確認 | 未確認 |
| Open WebUI | 未確認 | 未確認 | ◯ | 未確認 | ◯（公式充実） | ◯（ロール別RBAC） |
| RAGFlow | ×（対象外） | ×（対象外） | ◯ | 未確認 | 未確認 | ◯（チーム単位） |
| AnythingLLM | 未確認 | 未確認 | ◯ | 未確認 | 未確認 | ◯（マルチユーザー・Docker版） |
「未確認」は、公式ドキュメントに記載が見当たらなかった項目です。「対応していない」という断定ではありません。
ライセンスの注意点
比較表の項目には入らない制約もあります。
Difyは、無断のマルチテナント運用と、ロゴ・著作権表示の削除・改変を禁止しています。
Open WebUIは、50人を超える環境でのブランド変更にエンタープライズライセンスが必要です。
RAGFlowとAnythingLLMは、それぞれApache 2.0とMITで、この種の制約はありません（2026年10月確認）。
規模別の組み方｜梅・竹・松で考える社内ヘルプデスクAI導入
社内ヘルプデスクAIは、利用する人数の規模によって必要な機能が変わります。
悩んでる人来月から全社で使えるようにしてって言われたんだけど…
情シス あおいまずは部署単位の「竹」から試すのが安全です。
梅｜小規模PoCで試す構成
梅は、情シス担当者が1人で試す段階です。
セットアップが軽いAnythingLLMやOpen WebUIなら、この段階で十分使えます。
この段階では、Slack・Teams接続や有人エスカレーションはまだ不要です。
竹｜部署単位で共有する構成
竹は、1つの部署内でAIヘルプデスクを共有する段階です。
部署のSlackチャンネルやTeamsチームに接続するなら、Difyが候補になります。
担当者が複数人になるため、簡易な権限分けも必要になってきます。
松｜全社導入でSSO・権限管理が必須になる構成
松は、全社員が使う段階です。
利用者が増えるほど、SSOでの認証統合と部署ごとの権限管理が欠かせなくなります。
この段階では、Open WebUIのSSO機能とDifyのチャット接続を併用する構成も一つの案です。
全社導入になると、Open WebUIのブランド表示条項にも必ず当たります。50人という基準は、部署をまとめるとすぐに超えます。
埋め込みモデルとリランカーの選び方｜日本語特化か多言語か
回答の精度は、どの埋め込みモデルとリランカーを組み合わせるかでも変わります。
日本語特化なら「Ruri v3-310m」
日本語の問い合わせ文書が中心なら、日本語特化モデルの方が扱いやすい選択肢です。
埋め込みにはRuri v3-310m（開発元cl-nagoya）が使えます。
対になるリランカーにはRuri v3 Reranker-310mがあります。
いずれもApache License 2.0で、商用利用が可能です（2026年10月確認）。
多言語なら「BGE-M3」「multilingual-e5-large」
英語の技術文書やマニュアルが混在する場合は、多言語モデルの方が扱いやすくなります。
| モデル | 種別 | 開発元 | ライセンス |
|---|---|---|---|
| BGE-M3 | 埋め込み | BAAI | MIT |
| multilingual-e5-large | 埋め込み | intfloat | MIT |
| BGE-reranker-v2-m3 | リランカー | BAAI | Apache 2.0 |
いずれもMITまたはApache License 2.0で、商用利用が可能です（2026年10月確認）。
社内ヘルプデスクAIに関するよくある質問
社内ヘルプデスクAIに関するよくある質問をまとめました。
- 社内ヘルプデスクAIは無料のOSSだけで作れますか？
-
4製品とも無料で利用できますが、Dify・Open WebUIには商用利用時の条件があります。
条件の詳細は、本文の比較表とライセンスの注意点を確認してください。
- Slack・Teamsへの接続はどのツールが簡単ですか？
-
公式プラグインで両方に対応しているのは、本記事で確認した範囲ではDifyのみです。
- AIの回答が間違っていたら、どう検証できますか？
-
4製品とも、回答の根拠（Citation）を示す機能を公式に持っています。
参照元の文書を確認する運用を、最初から組み込んでおくと安心です。
- 答えられない質問は、どう人に引き継げますか？
-
公式に「人の承認を挟む」仕組みを確認できたのは、Difyの「Human Input」機能のみです。
他の3製品では、Webhookなどを使った自前の実装を検討する必要があります。
- 小規模な部署からでも始められますか？
-
梅・竹・松のうち、始めやすいのは梅（小規模PoC）です。
SSOやチャット接続は、利用者が増えてから段階的に追加する形で進められます。
まとめ｜社内ヘルプデスクAIを自社運用で作る前に確認すること
社内ヘルプデスクAIを自社運用で作る前に確認すべき点を、ここまでの内容から整理しました。
差別化軸：競合のSaaS型と違うのは、外部クラウドに依存しない自社運用という選択肢です。
必要な機能：チャット接続・根拠表示・有人エスカレーションという3つが挙げられます。
チャット接続と有人対応：Slack・Teams接続と有人エスカレーションを公式に確認できたのはDifyのみです。
SSOが必要なら：Open WebUIの認証機能が最も充実していますが、50人超の条件に注意してください。
規模の考え方：梅・竹・松の順に、必要な機能を段階的に増やすのが安全です。
各OSSのバージョンやライセンスは更新が速いため、導入前に公式ドキュメントで最新状況を確認してください。
自社運用の事例や、構築を支援会社に頼む選択肢も、あわせて確認してみてください。
- ローカルLLM企業導入事例：自社サーバーでAIを動かした企業の実例を業界別に確認できます
- ローカルLLM導入支援会社の比較：自社で組むのが難しい場合に、構築を支援する会社を比較できます
- ローカルLLMの企業導入（カテゴリトップ）：他の企業導入事例もまとめて確認できます
コメント