
- 生成AI・RAG
RAG検討中の方、必見! パッケージベンダー視点で検討時のポイントを解説します
この記事では、RAGや生成AIツールを検証したが上手く行かなかった方や、今後の検証に向けて情報収集したい方にむけて、パッケージベンダーの視点からRAG検討時のポイントや棲み分けについて解説しています。
|
2024年はほとんどの企業が生成AIの導入というテーマに取り組みました。一方で、PoCから先に進めない企業も多く、生成AIに対しての評価は期待外れと評価する企業も出てきました。
全社もしくは有志に生成AIサイトを開放したにも関わらず利用率はそれほど上がっていないという例や、RAGで社内情報を利用したチャットボットを作成したにも関わらず、利用する人がほとんどいないなどのお話をお客様からお聞きします。
本記事では、なぜ生成AI活用が進まないのかをビジネス観点で紐解いていきます。
下表は、各生成AIの技術実装方式を横軸に、縦軸に利用用途とコストを取った表です。
商用生成AIアプリの利用 | 自社アプリへの生成AI埋め込み | データ検索による生成AIモデルの拡張 | ファインチューニングによる生成AIモデルのカスタマイズ | カスタムモデルの開発 | |
ユースケース | コーディング、ライティングアシスタント | パーソナライズされたセールスコンテンツ作成 | RAGを用いた拡張ドキュメント検索 | バーチャルアシスタント | 独自LLM (オープンソースベース) |
初期費用 (最小5ユーザ) |
23万円~50万円 | 70万円~180万円 | 20万円~40万円 | 200万円~300万円 | 1.5億円 |
経営コスト1,000ユーザ (必要経費、教育、運用) |
6千万円~1.2億円 | 1.4億円~2億円 | 1.2億円~1.5億円 | 4千万円~2.5億円 | 1.6億円~16億円 |
算定根拠 | 基礎ライセンス+ オプション+ 運営コスト |
基礎ライセンス+ オプション+ 運営コスト |
ライセンス+ 構築費用+ 運営コスト |
構築費用+ 支援費用+ 運営コスト |
構築費用+ 支援費用+ インフラコスト+ 運営コスト
|
ユースケース、初期費用(最小5ユーザ)の行を見てみましょう。この部分だけであれば費用対効果は感じられる投資費用に収まります。ただし多くの生成AI関連費用は、利用ユーザ数に従って拡張する傾向にあるため、このユースケースを広げるとなると、投資費用が増加していき、毎年数億円の投資となります。
生成AIは技術的には革新的な進歩であったことは疑いがありません。また、もたらすインパクトに関しても同様です。我々の生活は生成AI誕生前後で大きく変わりました。このインパクトを業務改革にもたらしたいと考えるのも自然です。
では、企業において費用対効果を出すことが可能なユースケースとはなんでしょうか。
答えは企業によって異なります。また、このユースケース作りに苦慮している企業が多いのも事実です。
企業内の情報を元に回答するボットを作成するためRAGに取り組んだ場合、様々な課題に直面します。
この課題には、二つ性質の課題が含まれています。
前者が技術的な課題、後者が適応的な課題です。
つまり、たとえ前者の課題を何らかの手段で解決したとしても、後者の課題は解決されないのです。
技術的課題の解決と、適応的課題の解決はアプローチ方法が違います。
技術的課題とは、これまで技術的に解決できなかった課題を指します。つまり新技術の登場により解決可能になった課題です。AI Agentの登場などにより、これまでは自動化できてこなかった領域はまさに技術的課題と呼ぶことができます。
主には部門の業務の自動化や、高度な顧客対応ボットなどがそれにあたるでしょう。生産性や人的コスト、人手不足、業務効率向上などがビジネスプロセスに作用する領域が該当します。
一方で、適応的課題とは、技術的には解決できるものの、人と人の関係により解決できていない課題を指します。こちらはやや抽象的ですが、誰しも「こうしたらいいのにな」と不満を持つことが多いと思います。そうした課題を適応的課題と呼びます。
適応的課題は関係するステークホルダーが多いほど複雑化しますし、価値観も多様であるため、ビジネスインパクトも個々の課題では小さくなりがちです。全社のネットワーキング効果を最大化することでしか、費用対効果を得ることができない領域です。
|
前述のRAGの例は、個々の従業員が「社内規約」という限られたデータを活用するという意味で②の象限に留まります。この課題のビジネスインパクトは大きくなく、かといって全社で利用されるものでもありません。
③の象限は技術的課題に該当します。部門、ビジネスプロセスが対象となりますので、ビジネスインパクトは大きく、価値観が多様化する領域でもありません。企業の目的としては利潤を追及することが挙げられますので、そのための生産性向上は異論が出ないでしょう。
④の象限は適応的課題に該当します。従業員自ら活用方法を模索し、ネットワーキング効果を最大化しなくてはなりません。既存業務が忙しいなど、本業に対する「余技」のような取り組みでは、効果を出すことはできません。
③の象限は技術的課題であるため、自動化したい業務のプロセスを分類し、どのプロセスに最適なデジタルスキルを適用するかが鍵となります。
この整理には弊社が提唱する「4段階分類法」を用いるとシンプルに整理が可能です。
|
該当業務を段階で分類し、属人性、信頼性、負荷、コスト等を把握した上で、自動化戦略を立てます。
ある業務を例に考えてみます。
この業務では、システムより取得したデータと個別台帳など手持ちのデータを突合し、加工を行い、別システムに登録を行います。
このようなプロセスは、バックオフィスでよく見かけます。
|
ここで注意が必要なのは、業務自動化の対象はあくまで現場の業務プロセスである点です。ビジネス・プロセス・リエンジニアリング(BPR)を実施する場合は、企業全体のビジネスプロセスを把握、モデリング化していくことが重要になります。
この場合は、プロセス・マイニングやビジネスプロセス管理システム(BPMS)の領域となります。
最後に自動化戦略とその手法を決定します。デジタル化手法には、デジタル化ツールごとの得意領域の見極めが重要となります。
段階 | 属人性 | 信頼性 | 作業時間(例) | 割合 | ルールベースAI | 生成AI | 機械学習 |
取得 | 低 | 低 | 3分 | 5% | ○ | △ | × |
分析 | 高 | 高 | 12分 | 20% | × | △ | ○ |
判断 | 高 | 高 | 32分 | 53% | ○ | △ | △ |
実行 | 低 | 中 | 14分 | 23% | ○ | × | × |
各段階に対して得意/不得意が分かれるため、どのプロセスに対してどんなデジタル化ツールを活用するか、判断する必要があります。この段階になり初めて外部専門家の知見を導入するのが良いでしょう。
④の象限は適応的課題であるため、まずは何を目指すべきか、どういった状態が望ましいのかを対話を通じて設定していく試みが欠かせません。
弊社ではまず、対話を先導していく、アンバサダーの選定をお薦めしております。
|
アンバサダーを中心に利用率の向上を目指していきます。
技術課題ではないため、アンバサダーはヒューマンスキルやファシリテーションスキルの素養が高い人が適任です。
知識創造企業(野中郁次郎、竹内弘高他)における「ナレッジマネージャ」という役割とも類似しています。
![]() |
---|
※NPO法人SECIプレイスより図版転載 |
知識創造企業で提唱された「SECIモデル」のように共同化のためのコミュニティ作り、形式知化のためのナレッジ構築、そしてそれを広めるためのナレッジ循環などを司っていく役割となりますので、組織の壁を易々と飛び越えていくバイタリティが求められます。
ナレッジの循環は、従業員エンゲージメントを高め、財務数値にも影響を与えるという研究結果があります。また、人的資本経営においても、従業員エンゲージメントを高めることは重要です。
仮に従業員エンゲージメントを高めることで、顧客エンゲージメントが高まるという仮説を設定したのであれば、現在の従業員エンゲージメント状況を取得するべきです。
また、施策のあとに状況が改善されたかどうかも都度取得し、施策の効果を確認する仕組みが欠かせません。
ナレッジマネジメントも同様に、社内の暗黙知を表出化させ、それがどれだけ形式知化されたかを計る指標が必要となります。
これらの施策を打ち、効果を計っていく事務局やCoE組織の役割は極めて大きいです。
生成AIツールを全社員に配っただけでは効果が出ません。活用の共有化、コミュニティの運営、心理的安全性のある職場作り、コンテストの開催などを通じて、目指すべき指標が改善されていることを経営と対話し、合意していきます。
RAGの精度を改善するために費やすよりも、多くの時間を対話に費やすべきです。幸い、Gleanのようなエンタープライズ・サーチ・ソフトウェアは自ら学習し、精度改善をしていきますので、技術的課題に対峙する時間を大幅に削減することができ、多くの対話に時間を費やすことができます。
Gleanは、エンタープライズ・サーチ・ソフトウェアの競争の中で、卓越したソリューションとして際立っています。Gleanは、生成AIによる検索とパーソナライズされた結果に重点を置くことで、ユーザーが適切なタイミングで適切な情報にアクセスできるようにし、組織内の生産性とナレッジ共有を強化します。
Gleanは、100を超えるビジネスアプリケーションとの接続機能、ドキュメント要約を生成するAI機能、ナレッジグラフによる強力なパーソナライゼーションへのコミットメントにより、ユーザーのニーズに合わせた情報の提供を保証します。Gleanでエンタープライズサーチの未来を創り、組織の可能性を最大限に引き出しましょう。
![]() |
---|
佐藤 彰広
株式会社アシスト
2002年入社。 Oracle Databaseのエンジニアとして、企画・プロジェクト管理に従事。 その後、ビジネス開発部隊として新規ソフトウェアの調査・発掘を経て、 ルールベースAI「Progress Corticon」の日本での立ち上げを担う。現在は、アシストのAI製品を取りまとめる技術主幹を担う。趣味は音楽鑑賞。
この記事では、RAGや生成AIツールを検証したが上手く行かなかった方や、今後の検証に向けて情報収集したい方にむけて、パッケージベンダーの視点からRAG検討時のポイントや棲み分けについて解説しています。
RAGアーキテクチャが注目を浴びる中、Gleanのアーキテクチャが特に優れている理由とポイントについてご説明します。