- Oracle Cloud
- Oracle Database
OCIでGPUインスタンスを構築してみた
OCIで提供されている生成AIサービスとGPUインスタンスを前回の記事「生成AIにGPUが適している理由」で紹介しました。本記事では、GPUインスタンスをデプロイして、インスタンス上でLLM(大規模言語モデル)の動作環境を構築する方法をご紹介します。
|
クラウドを使い始めたいけど、何から始めたらいいの?と困っている方は多いはず。
そんな方への情報収集のネタとして、アシスト社内にあるオンプレミス環境とOracle Cloudとを接続するために実施した経験を共有します。
これからクラウドを利用したいという方のお役に立てれば幸いです。
とあるきっかけがあり、自社オフィスとOracle Cloudを接続するためのネットワーク環境を構築することになりました。
その時に、どのようなベンダーとの契約が必要か、どのような機材を買い揃えないといけないかといったことをまとめました。
今回は、必要となる設備の準備にフォーカスしてご紹介します。
目指す最終的な構成イメージを以下に図示します。
VPN環境と閉域網環境の2種類あります。それぞれの接続方法の構築手順を確認したり、パフォーマンス比較などの検証をすることが目的です。
|
|
これらを実装するにあたって、必要となる手続き、購入するものを記載します。
図中番号 | 項目 | 用途 | 補足 |
---|---|---|---|
1 | 自社オフィスへの配線工事申請 | VPN接続 閉域網 |
自社が入居しているビルの管理会社に配線工事の届けを出します。 |
2(VPN接続) 3(閉域網) |
NURO bizの契約 | VPN接続 閉域網 |
自社からインターネットに出ていくために必要な回線。 VPN接続用と閉域網接続用の2種類を契約します。(NUROスタンダードとNURO閉域網) |
4 | アット東京での回線手続き | 閉域網 | 自社~アット東京はNURO閉域網、アット東京~Oracle CloudはMegaportの回線を使います。 NURO閉域網とMegaportをアット東京で接続します。 ※Megaportはクラウドに接続するための仮想回線や仮想ルータなどを提供するサービスです。今回は閉域網におけるクロスコネクトとして使用します。 |
5 | Megaportの契約 | 閉域網 | アット東京とOracle Cloudを接続するために必要な回線。 物理的な回線はアット東京で接続し、仮想的な回線はMegaportポータルにて作成します。 |
図中番号 | 項目 | 用途 | 補足 |
---|---|---|---|
6 | ルータ | VPN接続 閉域網 |
自社に設置し、NURO回線に接続します。 VPN接続や閉域網接続のルータとして使います。 今回は、YAMAHAのRTX830を購入しました。 |
7 | メディアコンバータ | 閉域網 | NURO回線とMegaportを接続するためのもの。 それぞれ異なるコネクタで提供されるため、変換する必要があります。 - NURO回線(RJ-45コネクタ) - Megaport(ファイバチャネルLCコネクタ) |
[VPN環境]
|
[閉域網環境]
|
オフィスのフロアにあるEPS室にNURO用のモジュールを取り付け、オフィス内のルータがある場所までファイバーケーブルを床下に這わせます。
|
|
EPS室内の配電盤にNURO用のモジュール(水色の箱)を取り付け、ファイバーケーブルを接続します。
|
|
このファイバーケーブルをEPS室から、オフィスへと床下を這わせます。
|
|
2本のケーブルの末端をオフィスのデスクまで通して、2つのONU(Optical Netowork Unit)に接続します。
2つのONUは、以下の回線のためにあります。
・ONU1:NUROスタンダード(VPN接続のため)
・ONU2:NURO閉域網(閉域網接続のため)
VPN接続、閉域網接続のためのオフィス内の回線準備はこれで完了です。
アット東京での工事は閉域網接続のために必要です。
アット東京には、アシストの機器が設置されたラックが既にあり、そのラックの一部を間借りして、NURO閉域網のONUを設置しました。
また、そのラックにはMegaportから配線されたファイバーケーブルも届いています。
ここで注意しなければならないのがコネクタの形状です。ONUはRJ-45、Megaportのケーブルはファイバーチャネル(LCコネクタ)で提供されます。
そのため、RJ-45とLCコネクタの形状を変換する必要があります。
|
|
Megaportに接続されたファイバケーブル。
2芯のケーブルが固定されていないので、メディアコンバータに接続する際は左右を間違えないように注意が必要です。
環境準備は以上となります。
次回は、Oracle Cloudの基本構成を構築します。
オンプレミス環境とクラウドを接続してみよう!~2.Oracle Cloud環境準備~
「オンプレミス環境とクラウドを接続してみよう!」連載一覧
1.オフィス環境準備
2.Oracle Cloud環境準備
3.IPSec VPN接続の構築
4.閉域網接続の構築
学生時代に研究室のSunワークステーションの管理者になったのをきっかけにSIerに就職。
Linux系インフラエンジニアの道を歩みながら,Oracle RACのクラスタリング技術に衝撃を受けてアシストに転職。
Oracle、InfiniDB、Verticaを経て、現在はAWS、Oracle Cloudを担当。
趣味はピアノと筋トレ。...show more
■本記事の内容について
本記事に示した定義及び条件は変更される場合があります。あらかじめご了承ください。
■商標に関して
・Oracle®、Java、MySQL及びNetSuiteは、Oracle、その子会社及び関連会社の米国及びその他の国における登録商標です。
・Amazon Web Services、AWS、Powered by AWS ロゴ、[およびかかる資料で使用されるその他の AWS 商標] は、Amazon.com, Inc. またはその関連会社の商標です。
文中の社名、商品名等は各社の商標または登録商標である場合があります。
OCIで提供されている生成AIサービスとGPUインスタンスを前回の記事「生成AIにGPUが適している理由」で紹介しました。本記事では、GPUインスタンスをデプロイして、インスタンス上でLLM(大規模言語モデル)の動作環境を構築する方法をご紹介します。
前回の記事でお伝えしたとおり、OCVSを構築するとVMwareの複数の機能が利用可能です。 それらの機能の中で、今回はHCXの概要や具体的な機能、OCVSでHCXを利用するメリットなどをお伝えします!
2024年5月にOracle Cloud環境にて、先行してOracle DB 23aiがリリースされました。 Oracle Base Database ServiceにおけるOracle Database 23aiの検証結果を報告します。 今回は「統合メモリー管理」をテーマにお伝えします。