生成AIのセキュリティリスクとは？企業が直面する課題と対策

ChatGPT。
初めてその名前を聞いた時は「ふーん、そんなのあるんだ」と思っただけでした。
しかし、ChatGPTを実際に利用してみると、その便利さや精度に驚愕してしまいました。

特に仕事をしていく上で、分からないことを調べる時や頭を整理したい時に、生成AIを活用する機会が増えているように感じます。
こういった便利なものは積極的に使っていけば良いと思いますが、その反面、セキュリティリスクも考えていかなければなりません。

そこで本コラムでは、生成AIを活用していく上でのセキュリティリスクやセキュリティ対策について解説していきます。

以下は、日本セキュリティ監査協会が2024年1月に公開したセキュリティトレンドです。

前年ではランク外であった生成AI関連のセキュリティリスクが、1位と5位にランクインしています。
このデータからも分かるように、企業で生成AIを活用するためには、
セキュリティ対策も合わせて検討することが急務となっています。

では、生成AIにおける具体的なセキュリティリスクとはどのようなものがあるでしょうか？
アシストでは主に以下の4点があると考えます。

これらのセキュリティリスクの中でも「ビジネスデータの漏洩」については、直接的なセキュリティ事故に繋がります。
既にいくつかの企業でも、機密情報をChatGPTに入力したことで情報漏洩に繋がったケースがあります。

とある海外企業において
・バグがあるソースコードをコピーして修正を依頼
・会議音声をチャットボットに投げて、議事録を作成
などの作業で、機密情報をChatGPTに流出させたというニュースが報じられたそうです。

以下の記事でも「従業員がChatGPTに貼り付けるデータの11%は機密情報」だと伝えているように、
どの企業でも起こりえることで、他人事ではありません。
企業としては、このような問題が発生する前に準備をしておく必要があります。

参考：11% of data employees paste into ChatGPT is confidential
　　　https://www.cyberhaven.com/blog/4-2-of-workers-have-pasted-company-data-into-chatgpt （2024/7/11時点の情報）

生成AIを企業で活用していくためには、以下のようなステップを踏むと良いでしょう。

これらのステップを継続的に見直し、更新することが重要です。

しかし、いくら上記ステップを踏んだとしても
・単純なミス
・ユーザー教育が一度きりで、リスクに対する意識が低くなる
・ガイドラインに従わない
などのヒューマンエラーを防ぐことはできません。

そこで有効となるのが、 システムを導入して強制的にルールを適用させるセキュリティ対策 です。

これまでのセキュリティ対策は、主に「人（ID）」や「デバイス」を中心に考えられていました。
今後もその対策は必要ですが、別の要素として「データ」を中心とした考えが出てきました。
それが「DLP（Data Loss Prevention）」です。

DLPとは、 保護すべき機密情報を自動的に判別し、該当データが検出された際にアラート通知やブロックを行う仕組み です。
クレジットカード番号やパスポート情報など、機密情報と思われるデータが移動する際に検出し、
その作業を止めてしまうことで、情報漏洩を防ぐことができます。

DLPにはいくつか種類がありますが、 生成AIのセキュリティ対策としては「ネットワークDLP」が有効 だと考えます。
ChatGPTなどの生成AIにデータを入力する際に、それが故意か故意ではないかに関係なく
機密情報を含んでいればブロックすることで、情報漏洩のリスクを抑制できるでしょう。

今後も、生成AIの活用が増えるにつれ、生成AIによる情報漏洩は増え続けると思います。
しかし、生成AIの利用自体を禁止することは、企業にとって大きな損失になります。
DLPで大切なデータを守ることで、安心して生成AIを活用できる環境を準備してはいかがでしょうか？

アシストでは、DLP機能をもつ製品として
--------------------------------------------------------------------------------------------------------------
・インターネットの脅威を100％無害化する「 Ericom Shield Cloud（エリコム シールド クラウド） 」
・インターネットアクセスをワンストップで提供する「 Zscaler（ゼットスケーラー） 」
--------------------------------------------------------------------------------------------------------------
を取り扱っています。

また、アシストでChatGPTを使いたいときは、様々なセキュリティ対策を施した
--------------------------------------------------------------------------------------------------------------
・ChatGPT × 横断検索によるAIアシスタント「 Glean（グリーン） 」
--------------------------------------------------------------------------------------------------------------
を使うようにしています。

もしこれらの製品やアシストのセキュリティ対策などにご興味があれば、ぜひお気軽にお問い合わせください。
本コラムが、皆様の生成AI活用およびセキュリティ対策のお役にたてば幸いです。