みなさんこんにちは。後藤まりです。

生成AIの登場により、私たちの業務の中でもAIを活用する機会が増えてきました。
それに伴い、ITシステムに求められるセキュリティ対策も大きく変わりつつあります。本日はその中でも見落とされがちですが、近い将来向き合うことになるであろうID管理の課題についてみていきたいと思います。

あるAIとのやり取り

社内向けに、生成AIチャットの導入を検討されている企業様は多いと思います。
特に、社内のデータを活用しながらAIに業務をサポートさせたいと考えるケースも多いのではないでしょうか。

そんなときに、AIとの間で以下のようなやり取りが発生することが想像されます。

ユーザー：「〇〇」について教えてください。
AI：申し訳ありません。こちらの回答には機密情報が含まれているため、表示できません。

例えば、質問をする利用者が、一般社員のＡさんと役職者のＢさんで違う権限を持っている場合、Ａさんには回答を表示させないが、Ｂさんには回答を表示させたい、というケースもあるのではないでしょうか。

しかし機密情報に対して一律で禁止してしまうと、本来権限のあるＢさんにも、同様に回答が表示されない状況になってしまいます。こうなるとAIへの問い合わせで本来効率化させたかった業務が非効率になるケースも考えられます。

また回答を得るために試行錯誤して意図せずAIへの攻撃行為につながるようなやり取りをしてしまうかもしれません。

AIドリブンはデータドリブン

AIを活用して社内のデータを活用するということは、効率化されたデータドリブンを行っていくようなものです。
そして、そのAI活用の先には、このような社内のあらゆるデータを活用するためのアクセス基盤が求められると考えられます。

AIが自律的にデータを処理するためには、AIに対し、利用者の権限に応じた制御を適用していくような仕組みが必要になるのではないでしょうか。

このようなデータ制御を実現するために考えるべきポイントは以下の3つです。

• 1.アイデンティティ：利用者と利用者に紐づく属性やロール

• 2.データ：データの分類とラベリング

• 3.アクセスコントロール：分類されたデータに合わせたアクセス制御の実装（ルールの検討）

それぞれについて解説していきます。

データレイヤでのゼロトラスト

改めて整理してみると、ゼロトラストのような考え方に近いのかもしれません。
従来のゼロトラストが「システムへのアクセスの多様化」に合わせて考えられたものに対し、AI時代では、さらに上の「データのレイヤに対するアクセスへの多様化」を考慮する必要があります。

まとめ

AI時代はデータへのアクセス主体がこれまでよりも複雑になります。具体的には人だけではなく、AIもデータを利用することになります。

この時、AIが返すデータを正しく制御できていないと思わぬ情報漏洩につながる可能性があります。
AIが過不足なく正しくデータを返せるようになるためにはアイデンティティ、データ、アクセスコントロールの管理が重要になります。

そのためには、
　・「誰が、どのような役割・属性を持つのか」というアイデンティティの管理
　・「どのデータが、どのような位置づけのものか」というデータの整理
　・そしてそれに対して「どのようなアクセスが必要か」というルールの設計
を整理して管理する必要があります。

AIが完全に自律的にデータを扱うのはまだ先の話かもしれません。しかし、これからのAIを考えるための土台として、改めてユーザの権限とデータ管理の適正化について、今のうちから目を向けていただければと思います。

※記載されている会社名、製品名は、各社の商標または登録商標です。