Google との提携により、Nvidia は本日、ビデオ中心のアプリケーションを実行するために最適化された新しいクラウド ハードウェア製品である L4 プラットフォームを発表しました。
Nvidia によると、Google の G2 仮想マシンを介して Google Cloud のプライベート プレビューで利用できる L4 プラットフォームは、「AI を活用した」ビデオ パフォーマンスを加速するように設計されています。 汎用 GPU として機能する L4 は、ビデオ デコーディング、トランスコーディング、およびビデオ ストリーミング機能を提供します。
Google Cloud を通じて L4 プラットフォームへのアクセスを提供するだけでなく、Google は L4 を企業顧客向けのマネージド機械学習サービスである Vertex AI に統合しています。
Google Cloud にサインアップしない方のために、L4 は、Asus、Cisco、Dell、Hewlett Packard Enterprise、Lenovo など、Nvidia のネットワーク ハードウェア パートナーから今年後半に提供される予定です。
L4 は、L40、H100 NVL、レコメンデーション モデル用の Grace Hopper など、Nvidia が本日発表した他の AI に焦点を当てたハードウェア ソリューションと並んでいます。 L40 は、グラフィックスと AI 対応の 2D、ビデオ、および 3D 画像生成用に最適化されていますが、H100 NVL は、ChatGPT などの大規模な言語モデルの展開をサポートしています。 (名前が示すように、レコメンデーション モデルの Grace Hopper はレコメンデーション モデルに焦点を当てています。)
L40 は今週、Nvidia の前述のハードウェア パートナーを通じて入手できます。 一方、Nvidia は Grace Hopper と H100 NVL が今年の下半期に出荷される予定です。
関連ニュースとして、本日、Nvidia の DGX クラウド プラットフォームが発表されました。これにより、企業はインフラストラクチャとソフトウェアにアクセスして、生成型およびその他の形式の AI のモデルをトレーニングできます。 今年初めに発表された DGX Cloud により、企業は Nvidia ハードウェアのクラスターを月単位でレンタルできます。月額インスタンスあたり 36,999 ドルという驚異的な価格から始まります。
DGX Cloud の各インスタンスは、8 つの Nvidia H100 または A100 80 GB Tensor コア GPU を備えており、ストレージと組み合わせて、ノードあたり合計 640 GB の GPU メモリを提供します。 DGX Cloud サブスクリプションにより、顧客は AI フレームワーク、事前トレーニング済みモデル、および「高速化された」データ サイエンス ライブラリを含む Nvidia のソフトウェア レイヤーである AI Enterprise にもアクセスできます。
Nvidia は、「主要な」クラウド サービス プロバイダーと提携して、Oracle Cloud Infrastructure をはじめとする DGX Cloud インフラストラクチャをホストしていると述べています。 Microsoft Azure は次の会計四半期に DGX Cloud のホスティングを開始する予定で、サービスはまもなく Google Cloud に拡張されます。
Nvidia の AI コンピューティングへの積極的な取り組みは、同社がゲームやプロフェッショナルな仮想化などの他の分野への不採算の投資から遠ざかるにつれて行われます。 Nvidia の最新の収益報告書は、AI 用チップを含む同社のデータセンター事業が成長を続けていることを示していました (36.2億ドルに) は、Nvidia がジェネレーティブ AI ブームの恩恵を受け続ける可能性があることを示唆しています。