生成AI界隈トーク：第1回「企業は生成AIとどう向き合うか」

少し前にPDFを要約する専門ツールがありましたが、そういう専門ツールもあっという間に不要になってしまう。恐ろしい速さでテクノロジーが進化していると感じています。

企業用に一からLLMを構築する場合、いろいろなやり方があるとは思いますが、複数のデータソースからデータを集めてきて、データの前処理（スペースや改行を省く、半角・全角の調整など）を行ったうえで、最初のモデルを作るという手法があります。この作成だけでも相当の時間と労力がかかりますよね。コストもかかるため、自社でLLMを構築するのは大手の一部のお客様に限られるのではないかと思います。また、医療系やアカデミックな分野ではオープンソースLLMを活用して追加学習させ、自社モデルを構築しているケースが多いように見受けられますね。

企業LLMを開発するプラットフォームもいくつか誕生しており、市場を形成する流れとなってきています。今後、アシストのお客様にも採用されていくかもしれません。

問題はここからで、LLMを社内利用に最適な状態までもっていくためには、「ファインチューニング」が必要だということです。

アシストも昨年からChatGPTをAPI経由で検証し、サポート業務の効率化に焦点をあてたファインチューニングに取り組んでみましたが、実際にやってみて、ここが一番大きな壁だと感じました。

具体的には、既存のFAQをベースにしただけでは質問への回答精度が上がらない。製品のバージョン固有の情報を追加するなど、追加情報の登録が必要なことや、情報の精度が上がってもそれを維持・管理する工数がかかります。これは一時のプロジェクト活動で終わるものではないということを実感しました。お客様からも同様に、この部分の苦労が多くて進まないという声をお聞きします。

最初のモデルを作って終わりではないんですよね。ファインチューニングは、新しい情報が追加されたらやり続けなければならないし、対象システムを追加したらやらなければならない。つまり、エンジニアの皆さんは永遠にやり続けなければならないんです。

経営者の視点でいうと、いまChatGPTを活用しようとプロジェクトを立ち上げて今年開発費に例えば１億円かかったとします。それが翌年以降も学習や改善が必要なわけですから、毎年その規模のコストがかかり続けるということです。チャット機能のすごさの方に注目が集まっている感がありますが、実際にやり始めて気づくのはファインチューニングの大変さであり、その後の運用コストなのです。

LLMの最適化と並行で、重要なポイントとなるのがLLMへの質問のしかた、いわゆるプロンプトエンジニアリングです。ChatGPTはどのような質問にももっともらしい回答を返してくれますが、本当にほしい答えをピンポイントで得るためには、質問の仕方に工夫が必要です。

ここでちょっと、あるお客様向けにサンプルデータを急いで作成しなければならなかった際に、私がChatGPTに依頼した質問の投げかけを事例としてご紹介します。

この例で注目していただきたいポイントは、自分のほしい回答を得るために、広い範囲から徐々に追い込んでいく質問の仕方です。例えば③にある「ありがとう」も大事ですね。それは「今までChatGPTが出してくれた回答は正しいです。今後もこのまま踏襲してください」を意味しています。また、日本語の場合日常では文脈が重視されることから、主語を省略するなど言葉たらずになりがちなので、質問の書き方に注意が必要ですね。

生成AIは、あらゆるところからある程度まとめて１つの答えを返してくれるところは検索エンジンと似ていますが、新しいものを生成する、たたき台を作れる点が優れています。質問の仕方をスキルとして身に着けることで、一人一人にアシスタントがつくようなイメージで利用できます。

生成してくれるコードについて「合っています」と言いながら、次の条件を箇条書きで書くことで、条件にぴったりあった内容を返してくれたり、実行してエラーが出た場合は、原因を教えてくれながら修正してくれたり。

「テストデータを5,000行にしてください」と依頼すると、「自分では5,000行を作れないがPYTHONなら作れます」とPyshonのコードを作ってくれたり、どう作りたいかを細かく指示し、最後はデータベースに登録したいというと、「Create Table」文をきれいに作ってくれるんです。

インターネットでの検索力、お客様へのヒアリング力などと並び、これからは「生成AIに聞く力」が必要になりますが、これがうまくできないと、生成AIは使えないという利用者も出てきますね。そうなると企業の中に、上手に使って生産性を上げる人とまったく使わなくなる人が二極化しそうな点が気になります。

質問の仕方をどう工夫するかで企業で働く方々の生産性向上に大きく影響するため、あるサービス事業者さんでは「最適化」よりも「スキル習得」を先に支援しているというお話をお伺いしました。

機密・個人情報の漏洩や著作権侵害を防止するために、そもそもプロンプトに何を入力してよいのかといった会社としてのガイドラインを作成したり、ログの取得・分析・監視などを対策として行う企業も出てきました。企業で生成AIを使えるようにするということは簡単ではないなという印象です。

ここ最近、お客様から、「DXプロジェクトをいったん止めて生成AIの検証プロジェクトを立ち上げた」とか、「チャットボットAIプロジェクトが生成AIプロジェクトに変わった」というお話を聞く機会が多くなってきました。各社が、コストも含め、生成AIの活用に急激にシフトしているという印象です。

生成AI導入の３つの壁の１つであるセキュリティについては、近いうちに解消されそうだと見込んでいますが、ファインチューニングはコストも工数もかかる上に永遠に終わらないという大きな課題が残っています。

「自分たちでファインチューニングを頑張ろう」と志を高く持たれるお客様もいらっしゃいますが、ファインチューニングのためには、社内文書をすべてかき集めなければなりません。その中には、例えば、社員なら誰でも参照できるデータもあれば、経営層やマネージャだけが参照できる経営関係のデータ、人事やマネージャ以上だけが参照できる機微な社員情報、といったように、システムによって必要な権限が設定されています。それらの権限をきちんと継承しながら、人に応じて回答を出し分ける仕組みの構築は　なかなか難しく時間がかかります。

Azure Open AI Serviceなどにファインチューニングしたいデータを簡単に追加できる機能がリリースされるという発表がありました。全社の情報をすぐに横断で活用できそうな方向へと進んでいますが、まだまだ全社でナレッジを簡単かつ迅速に共有できる状態になるまでには時間がかかると思っています。

ここで懸念されるのは、生成AIという世間一般にも大きく影響するものすごいテクノロジーが目の前にきているにも関わらず、企業がそのメリットを享受する前に、ファインチューニングの大変さから社内知識の学習継続を諦めてしまうお客様がいらっしゃるのではないかということですね。そうなると、DXやチャットボットを中断して始めた生成AIプロジェクトも一気にしぼんでしまい、現在バブル期のような生成AIへの投資も急速に幻滅期を迎えてしまうのではないかが気になっています。

「いろいろ課題はあるけどChatGPTでいいよね」という声もお聞きしますが、ChatGPTを社内で使えるようにすることは生成AIの活用の一つの方向性なので間違いではないのですが、「本当のゴールはそこではないです」とお客様にお伝えしたい。

そうですね。生成AIの導入でぜひお客様に実現していただきたいのは、以下のような全社員の生産性向上や企業力の向上です。

●社員一人一人に生成AIというアシスタントがつくことで社員の生産性向上だけでなく、
　創造性発揮なども実現できる

●（社員の権限に応じ正しく）ナレッジ共有が可能になることで
　全社の生産性向上につながる

●ナレッジ共有は企業力をも向上させる

生成AIの登場と活用は、まさにアシストが2020年に提唱した、知識が企業力を向上させる「Internet of Knowledge」構想に合致するものです。現時点で課題はあるものの、お客様には、我々が生成AI界隈で商材・サービスの発掘・調査などをもとに得られた知見をもとに、解決策やヒントの提示などを積極的に行っていければと思っています。

このテクノロジーの真価は、学習データを最新化するためのプラットフォームを構築することで発揮されます。これを解決できる商材も出てきています。お客様が是非ここを上手く乗り越えて、生成AIのメリットを享受できるよう、また、お客様がこの好機を逃さないようにご支援していきたいです。

また、生成AIはあくまで企業力を向上させるための一つの手段です。今後も生成AIに限らず、自分たちが得た知見をお客様にフィードバックしていきたいと考えています。