- Oracle Cloud
- Oracle Database
OCIでGPUインスタンスを構築してみた
OCIで提供されている生成AIサービスとGPUインスタンスを前回の記事「生成AIにGPUが適している理由」で紹介しました。本記事では、GPUインスタンスをデプロイして、インスタンス上でLLM(大規模言語モデル)の動作環境を構築する方法をご紹介します。
|
Oracle Cloud Infrastructure(以降、OCI)でログファイルの収集や分析を行うサービスとして
Oracle Cloud Infrastructure Logging(以降、Logging)が提供されています。
Loggingを使用することで、OCIのコンソールの操作ログ(監査ログ)やComputeインスタンスに導入したアプリケーションのログファイルなどの収集から分析まで簡単に行うことができます。
今回は、実際にお客様からお問い合わせいただいた二つのケースを踏まえて、Loggingの基本的な使い方をご紹介します。
オブジェクト・ストレージは、画像や動画などのメディアコンテンツからオンプレミス環境で取得したバックアップファイルの退避先など様々な用途で誰でも使用できるストレージです。
お客様から「誰が、いつ、どのファイルをオブジェクト・ストレージにアップロードしたのか、監査ログとして保持したい」とご要望をいただきました。
まずは、オブジェクト・ストレージのログを有効化します。
1.OCIコンソールから[オブジェクト・ストレージ >> バケットの詳細]に画面遷移し、画面左側のリソースから「ログ」をクリックし、「write」の有効化を”ON”にします。
|
2.ログの有効化ダイアログが開くので、デフォルト設定のまま「ログの有効化」をクリックします。
|
3.「アクティブ」となったことを確認します。
|
以上でオブジェクト・ストレージ側の設定は完了です。
次に、オブジェクト・ストレージにファイルをアップロードしてみましょう。
1.OCIコンソールから[オブジェクト・ストレージ >> バケットの詳細]に画面遷移し、画面左側のリソースから「オブジェクト」をクリックし、「アップロード」をクリックします。
オブジェクトのアップロードダイアログが開くので、任意の接頭辞を入力し、ファイルをドラッグ・アンド・ドロップし「アップロード」をクリックします。
|
2.ファイルがアップロードされていることを確認します。
|
次に、Logging画面を確認してみましょう。
1.OCIコンソールから[監視および管理 >> ログ]をクリックします。
|
2.ログ名をクリックします。
|
3.フィルタリングを利用して検知時間を絞り込むことで、アップロードのログを確認できます。
|
4.右端の矢印をクリックすると、詳細をJSON形式で確認することができます。
|
・誰が
principalId(IDCSユーザでアップロードした場合に確認する項目です。)
または
principalName(IAMユーザでアップロードした場合に確認する項目です。)
・いつ
startTime(UTC表記です。IDCSユーザの場合とIAMユーザの場合で共通です。)
・どのオブジェクト・ストレージ(バケット)に
bucketName(IDCSユーザの場合とIAMユーザの場合で共通です。)
・どのファイルを
objectName(IDCSユーザの場合とIAMユーザの場合で共通です。)
このケースは、応用編です。
すでにLoggingを活用されている別のお客様からは「Loggingのログデータを自動でどこかに退避させたい」とご要望をいただきました。
新しい用語「サービス・コネクタ」が出てきました。
サービス・コネクタはLoggingのログデータと別のサービスを連携させることができる機能です。今回は、退避先用のオブジェクト・ストレージのバケットを準備し、このオブジェクト・ストレージと連携させます。
0.事前に退避先用のオブジェクト・ストレージのバケットを用意します。
|
1.OCIコンソールから[監視および管理 >> サービス・コネクタ]をクリックします。
|
2.「サービス・コネクタの作成」をクリックします。
|
3.以下項目に設定を入力します。
・コネクタ名
・説明
・サービス・コネクタの構成
ソースに「ロギング」
ターゲットに「オブジェクト・ストレージ」
・ソースの構成
ログ・グループに「Default_Group」
※今回は自動生成されているログ・グループ「Default_Group」を使用します。
ログにケース1で作成したログ名「bucket_ashisuto_write」
・ターゲットの構成
バケットに0.で作成したバケット名「bucket-archive」
※オプションの項目は未入力のためキャプチャは省略しています。
ポリシーの作成メッセージが表示される場合には「作成」をクリックします。
項目の入力およびポリシーの作成が完了したら、最下部の「作成」をクリックします。
|
|
4.サービス・コネクタが作成されたことを確認します。
|
※赤枠の「バッチ・サイズ」と「バッチ時間」がオブジェクト・ストレージへの退避タイミングです。それぞれ以下となります。
・100MBのログ・データが生成されたタイミング
・7分間隔でログ・データをアーカイブする
この値は、サービス・コネクタの編集画面で「追加オプションの表示」から変更可能です。
|
5.退避先のオブジェクト・ストレージのバケットを確認します。
|
以上でLoggingのログデータの退避は完了です。
今回は、Loggingの使い方の一例をご紹介しました。
OCIコンソール上の操作に関するケースのご紹介でしたが、Computeインスタンス内のOSログファイルや、導入されたアプリケーションのログファイルも収集が可能であり、監視システムを別途構築する必要もなく、簡単にログファイルの管理が実現できます。
また、利用料金も以下のとおり月額10GBの無料利用枠が提供されています。
(2021年10月現在)
・10GB/月 ・・・ 無料
・10GB以降/月・・・ 約6円
Loggingについてご利用の際には以下マニュアルとあわせて、本記事をご参考いただければ幸いです。
ロギング概要
https://docs.oracle.com/ja-jp/iaas/Content/Logging/Concepts/loggingoverview.htm
サービス・コネクタの管理
https://docs.oracle.com/ja-jp/iaas/Content/service-connector-hub/managingconnectors.htm
■本記事の内容について
本記事に示した定義及び条件は変更される場合があります。あらかじめご了承ください。
■商標に関して
・Oracle®、Java、MySQL及びNetSuiteは、Oracle、その子会社及び関連会社の米国及びその他の国における登録商標です。
・Amazon Web Services、AWS、Powered by AWS ロゴ、[およびかかる資料で使用されるその他の AWS 商標] は、Amazon.com, Inc. またはその関連会社の商標です。
文中の社名、商品名等は各社の商標または登録商標である場合があります。
OCIで提供されている生成AIサービスとGPUインスタンスを前回の記事「生成AIにGPUが適している理由」で紹介しました。本記事では、GPUインスタンスをデプロイして、インスタンス上でLLM(大規模言語モデル)の動作環境を構築する方法をご紹介します。
前回の記事でお伝えしたとおり、OCVSを構築するとVMwareの複数の機能が利用可能です。 それらの機能の中で、今回はHCXの概要や具体的な機能、OCVSでHCXを利用するメリットなどをお伝えします!
2024年5月にOracle Cloud環境にて、先行してOracle DB 23aiがリリースされました。 Oracle Base Database ServiceにおけるOracle Database 23aiの検証結果を報告します。 今回は「統合メモリー管理」をテーマにお伝えします。