生成AI界隈トーク：第2回「生成AIとともに成長できるか」

生成AIのブームも数カ月経つと流石に穏やかになるのでは、と思っていましたが、全くその気配はありませんね。 前回の記事 時点でもたくさんのサービスが登場していましたが、その後も進化したり、新しい高機能なプロダクトも続々と登場し、生成AIの価値は今も日に日に高まっていると感じます。例えば2023年4月頃には提案書を自動生成してくれるサービスに驚いていましたが、6月頃にはそれを大幅に上回るクオリティのものが登場しました。

私たちも日々のニュースを追いかけるのに四苦八苦していますが、お客様からも「もう追いかけるのに疲れた」というお声を伺うようになりましたね。

ちょうどこの記事を執筆している頃にはマイクロソフト社が「Microsoft Copilot」という統一ブランドメッセージを出しましたし、Open AI社も「ChatGPT Enterprise」や、一度リリースされた後問題が見つかり滞っていたWeb検索、最近ではスマートフォンでの音声対話のリリースなど、見逃せないニュースが絶えません。6月頃にウェイトリストやアーリーアクセスに限定されていたサービスも一般公開されたり（リリースされなかったりもありますが）で、毎週何かしら驚きのプロダクトと出合えるので話題には事欠きませんね。

一つのテクノロジー分野でこれほどのスピードで様々なツール実装が実現され、ニュースとしてのパワーも衰えないというのは過去に経験がありません。自然言語インターフェースであることから、リリースと同時に広く社会実装されるというそもそものインパクトの大きさもありますよね。

私たちの活動でも生成AIに取り組まれているお客様とのアポイント件数が、この半年で200件以上となりました。従来のアポイントとは異なり、同じテーマにも関わらず、日々アップデートされる情報を取り入れながらお客様と会話する必要があったのでほとんど同じ内容にはならなかった印象です。また、同じ半年の間にAzure Open AI Serviceを用いた社内での対話型生成AI導入の検討、試行を進められただけでなく、全社展開まで果たされたお客様が増えてきたことにも驚いています。

これもまた驚きのスピードですね。各社の業界で先行的に導入される企業があり、その企業に後れをとらないよう、経営層からも取り組みを加速させる指示があるようで、各社で検討チームが組成されています。お客様のお話をお伺いしていると、まずは多くの社員に生成AIを「体験する」機会を作ることに注力されているようです。触って実感しないことにはその先の業務活用はイメージできないですし、生成AIを使うスキルを向上させたいという狙いもあるようです。

まずはChatGPTに代表される汎用モデル、つまり外部知識によって学習されたLLMを使うことで一般的な回答を得る、という機能を使い始められた企業が多く、ユーザー側から「うちの会社はいつから使えるのか」と問い合わせを受けて困っているというIT部門、DX部門の方も多い印象です。まず使えるようにするというのが第一フェーズとして必要だということを改めて感じています。

そういった取り組みを進めているお客様の中からは、「次は社内知識の活用にどう取り組むか」という声が多くなってきましたね。汎用知識はいわば優等生のようなものなので、良い意味で普通の回答が得られますが、業務上は社内での過去の経験や出来事を踏まえたアイデアや知識の再利用が求められる。この観点にどう取り組んでいくかがポイントですね。

社内知識をどう活用するかという観点で注目されているアーキテクチャに「RAG（ラグ）：Retrieval Augmented Generation」というものがあります。私たちもこのアーキテクチャについては論文を読んだり各社の実装内容を見たりしながら社内でもたくさん意見を交わしました。

RAGアーキテクチャの概要は以下のようなものです。

・あらかじめ社内知識を主にベクトル化によって書庫（データベース）化
・ユーザーのプロンプトをリトリーバーが解釈し書庫から適切なドキュメントを抽出
・プロンプトとドキュメントをリトリーバーがLLMに引き渡す
・LLMが回答文章を生成

ファインチューニングをはじめとしたモデル自体を強化学習するやり方では準備と学習にコストがかかることが大きな課題となります。しかし、RAGアーキテクチャは、先にプロンプトの内容に即した社内知識を検索し、適切なものを見つけることによって、LLMにはその知識を含めた情報を与え、より適切な回答を得るという、非常に理に叶ったプロセスであり、強化学習型プロセスの課題を解決できます。

このアーキテクチャを活用したサービスとして、Azure Open AI ServiceのOn Your DataやAmazon Kendra等が登場し、先進的なお客様はRAGアーキテクチャを用いた社内データの活用に取り組まれていますね。

アシストが2023年5月に取り扱いを始めた「 Glean 」もこのアプローチです。

そうなんです。ただ、「Glean」の開発元であるGlean社は生成AIブームが起こる前からこの分野を研究し、いち早くRAGアーキテクチャを実装できる準備を整えてきました。今RAGの実装に取り組まれているお客様をお伺いする中で、この差が以下の二つの点でGleanの優位性につながっていると感じています。

　1.　データ準備の工数と学習にかかるコスト
　2.　ドキュメントへのアクセス権を踏まえたRAGの実装

「データ準備の工数と学習にかかるコスト」は実際にRAGの実装に取り組まれているお客様に伺うとなかなか大変みたいですね。

RAGを実装する場合、あらかじめユーザー側の用途に合わせた答えの塊を用意してそのドキュメントの構造を踏まえた事前登録が必要なので、対応範囲を広げれば広げるほどデータ準備と学習に手間と時間がかかりますし、その後も続く、新しい文書の取り込みというメンテナンスおよび運用コストにも影響しそうです。

「ドキュメントへのアクセス権を踏まえたRAGの実装」で、権限は私もすごく気になっていて、企業の場合、全社員が社内の全ての情報にアクセスしてよいというわけではありません。例えば人事情報などですね。その点を考慮して学習させるとなると権限ごとにたくさんのモデルが必要になりますね。

その通りで、機密情報や顧客情報などを学習対象に含めるのは今の段階では難しいと思います。生成AIの利用でセキュリティ事故が起こったら元も子もありませんし、それをいちいち加味した学習をしていたらキリがありません。

それを踏まえると、Gleanの場合、自動的にデータソースの権限を踏襲した動きをするので、かなり効果的にアプローチしていますよね。

2023年8月にGlean社の本社（米国サンフランシスコ）を訪問しましたが、彼らは「情報が見つからない」という課題に横断検索という手法でアプローチするにあたって、セキュリティ面の考慮が最も重要だと捉えています。そのため製品の実装においても、しっかりとアクセス権を考慮した検索、そして生成AIによる自然文での対話を実現しています。

これから類似プロダクトが出てくるのか、Gleanの優位性がリードし続けられるのか大変興味深いですね。

生成AIをどう活用するか、各社での検討、トライが進んでいますが、先ほどお話しした通り、ChatGPTやAzure Open AI Serviceを介して汎用知識を利用するのはあくまでスタート地点であり、その先に自社データ、つまり社内知識を活用するというステップがあると思います。ただ、各社まだまだ試行錯誤の段階にあって、社内知識の活用まで進んでいないのが現状でしょうね。

そうですね。生成AIブームで注目が集まりましたが、LLM自体は数年前に登場しています。LLMはあくまで汎用的に学習されたモデルであるため、LLMを提供する企業自身もLLMそのもので差別化できているわけではなく、その効果は既存業務の効率化に留まるのではないでしょうか。DXやAIXという観点で考えると、生成AIの活用によるビジネスの変革がゴールですが、まだそこには達していないのが現状かと思います。

そうすると、自社データ活用は既存業務の効率化からその先にあるビジネスの変革にたどり着くための一歩と言えそうですね。

まずは各社、社員に生成AIを利用する機会を提供し、これから来る生成AIとの共創時代に備えた準備を進めているステップなんだと思います。その次に自社データ活用があり、さらにその先に、ビジネスの変革が待っている。そこにどれだけ早く確実に進められるかが今後の生成AIとの向き合い方として重要になってくるでしょう。

生成AIとの共創という観点ではファインチューニング、強化学習、RAGといったアプローチが登場していますが、ビジネスの変革という観点だとこういった手法の選択に留まらずその先の価値まで考える必要がありますね。

そうですね。私は「成長」がキーワードになると思います。

一つは社員の成長です。「生成AIを活用してできること」をまず個々人が理解し、ビジネスに一番近いところにいる人がそれをどう活用するかです。社員が創造性を発揮し、生成AIを使って変革を起こせる状態を作ることが企業にとってまず必要なことだと思います。

二つ目は、生成AIの成長です。生成AIの裏にあるLLMは現時点では汎用知識をベースとしていますが、RAG、そして今後は業務・業種に特化した学習が必要になります。汎用LLMと特化型LLMを使い分ける。特化型LLMを成長させる基盤や体制をどう整えていくかが求められてくると思います。

そして三つ目は、企業の成長です。売上高や従業員数の増加は一つの指標ではありますが、それ以上に生成AIによって企業の文化・風土をどう成長させるのか。生成AIがもたらしたものは変化のスピードです。このスピードに乗って、これまでの文化・風土から次の時代の企業の在り方にどう変えていくべきかを戦略的に考える時期にあると思います。

生成AIが加速度的な変化をもたらしていることは明白ですが、それに対して人、企業が十分についていけていない状況を踏まえると、企業として、個人として、ビジネスとしていかに同じペースで成長できる環境を作るかが問われるということですね。企業としての生成AIとの向き合い方としてこの観点で何ができているか整理し、戦略を考える必要があります。アシストもこの点は経営層、IT部門、ビジネス部門それぞれを巻き込んで考えていかなければなりませんね。

アシストは幸い早期にGleanと出合い、全社導入を果たせているので、全社員が生成AIに触れ、社内5,000万個以上の文書を活用し業務効率化するところまではうまく進められていると思っています。この先、業務ごとに特化したLLMが必要なのか、Gleanを工夫して利用することでそこが解決するのか、または別の取り組みが必要なのかを見極めていく必要がありますね。

今も絶えず進化が進む生成AI分野ですから明日急に素晴らしいソリューションが現れるということもあるかもしれませんが、現状は今与えられているGleanを最大限活用することを最優先にしています。この活動はノウハウになると思いますし、それを通して最適化の検討も進められると考えています。

アシストの中ではGleanを最大限有効活用するためにCoE（Center of Exellence）活動が始まりましたね。

はい、私がGleanの社内導入推進者としてCoE活動のリーダーを務め、各組織から選抜された1～2名のGleanスペシャリスト候補の方々と、Gleanの検索および生成AI機能がどのように業務に価値をもたらすかを検証しながらベストプラクティスを見つけようとしています。

生成AIの使い方ではなく、業務の中でいかに効果的に生成AIを使って変革を成し遂げていくかに、チームとして取り組むということですね。この活動に期待していることは何ですか？

まずは、Gleanを通してCoE参加者が生成AI活用のスキルを身に付け、それを各所属組織に展開してもらうことです。それぞれの業務に合った使い方を率先して見つけてもらい、組織における業務生産性の向上につながればと考えています。

次に取り組むのは、ナレッジマネジメントです。RAGのプロセスにおいても社内の知識を整理する部分が重要になりますし、Gleanのようにそのようなプロセスを大きく軽減できるプロダクトがあったとしても、知識がきれいに整理されていないと企業の事業継続性にも影響してきます。ツール、サービスに甘えすぎず、あるべきナレッジマネジメントに向き合うことも重要です。

そしてその先にCoEとして取り組むことになるのが業務の変革です。それは今時点で見えているわけでなく、経験を通して各個人が生成AIと上手く付き合う方法を学び成長する過程で生み出されるものではないか、そんな期待を持っています。

なるほど。アシストがこれまで各種プロダクトで提供してきた伴走支援もそうですが、道具だけでなくそれを受け入れる文化の醸成や価値の最大化が、生成AIの取り組みにおいても重要だということですね。

はい、まさにそういうことが本質だと思います。一方で生成AI側もこれから絶えず進化するでしょうし、今のような汎用モデルだけでなく特化モデルも必ず必要になってきます。その時に重要なのは人が判断することで、生成AIとともに成長しながらその判断基準やスキルを身に付けていきたいです。

生成AIを上手く使っていくと職場はどのようになっていくのでしょうか？

ChatGPTの場合は、あらかじめ学習したWeb上の知識であれば、いつでも答えてくれる有識者が隣に居るようなイメージですね。さらに企業内文書が活用できるようになると、社内のことなら隅々まで知っている先輩がすぐ傍にいてくれるような感じで、どちらも非常に心強い。もちろん何も質問しないと黙っていますが。

生成AIを擬人化するのは面白いですね。

どこを探せばよいかわからない、もしくは誰に聞いていいかわからないという状況で途方に暮れた経験は誰にでもあると思います。逆に聞かれる方も、自分の業務を中断して回答しなければなりません。経理や総務の方が、同じことをたくさんの人に聞かれ、答えなければいけない、とよくぼやかれていました。

それが多くのケースで自己解決できるとなると、会社全体で大きな効率化につながります。文書やナレッジに関するボトルネックが解消することによって、相当組織スピードも上がりそうです。

また、例えば共同で何かの文書や資料を作る場合、「誰か叩き台を作ってよ」という会話を今までよくやっていたわけですが、叩き台レベルであればプロンプトで瞬時に作成できる環境ができつつあります。つまり、ゼロベースから仕事に着手するのではなく、6割7割の完成度からスタートしブラッシュアップしていける。これは、大きな業務スタイルの変化だと思います。

さらに生成AIは文章、画像の生成から、作業を生成できるようになってきてますよね。プロンプトでスプレッドシートを操作したり。

はい。これが「生成AIによる自動化」の序章で、生成AIの第2幕の大きなポイントだと思います。これから年末、来年にかけていろいろと動きが出てくると思いますので、注目していきたいと思います。