大規模AI向けGPUカード NVIDIA®H100 NVL 94GB 受注開始
株式会社ジーデップ・アドバンスは、2024年3月4日(月)より、米国NVIDIA社のHopperアーキテクチャ搭載GPUカード「NVIDIA®H100 NVL 94GB」の受注を開始しました。
NVIDIA® H100 NVLは、現行世代のGPUアーキテクチャ「Hopper」を採用し、大容量94GB HBM3メモリ、第4世代のTensorコア、800億個のトランジスタが搭載されています。最大の特徴はLLMなどの大規模AIモデルをターゲットとして開発されたところであり、2枚の「H100 NVL」をNVLink™で接続することにより、これまでのどのNVIDIA製GPUと比較しても最大の188GBという広大なメモリ空間を実現することが可能です。また、各GPU間は600GB/sの広帯域で疎通可能で生成AIのような大規模AIモデルの学習に適したハイエンドスペックGPUとなっています。
NVIDIA H100 NVLはPCI Gen5で搭載が可能であり、GPUサーバーやワークステーションでAdaLovelace世代のGPUを利用されているシステムがあれば、容易に増設や差し替えが可能です。さらに2枚1組でNVLink接続すればGPU間が600GB/sの広帯域で接続されます。最大熱設計電力(TDP)も350W-400Wと従来のカードと大きく乖離の無い設計となっており、LLMワークロードを加速したい、生成AI向けにシステムをスケールアップしたいユーザーにも最適な選択肢となります。
型 番:NVIDIA H100 NVL 94GB
販売価格:1枚 ¥5,190,000(税抜き、送料抜き) ※2024年3月26日価格改定
2枚+NVLinkセット ¥10,446,000(税抜き、送料抜き) ※2024年3月26日価格改定
製品ページURL: https://www.gdep.co.jp/products/list/v/65dfdaa8ce3d2
NVIDIA H100 NVL 94GB 仕様
H100 PCIe 80GB |
H100 NVL 96GB 2枚 NVLink接続 |
|
FP64 | 26 TFLOPS | 68 TFLOPS |
FP64 Tensor コア | 51 TFLOPS | 134 TFLOPS |
FP32 | 51 TFLOPS | 134 TFLOPS |
TF32 Tensor コア | 756 TFLOPS² | 1,979 TFLOPS |
BFLOAT16 Tensor コア | 1,513 TFLOPS² | 3,958 TFLOPS |
FP16 Tensor コア | 1,513 TFLOPS² | 3,958 TFLOPS |
FP8 Tensor コ | 3,026 TFLOPS² | 7,916 TFLOPS |
INT8 Tensor コア | 3,026 TOPS² | 7,916 TOPS |
GPU メモリ | 80GB | 188GB |
GPU メモリ帯域幅 | 2TB/s | 7.8TB/s |
デコーダー |
7 NVDEC 7 JPEG |
14 NVDEC 14 JPEG |
最大熱設計電力(TDP) |
300-350W (configurable) |
2x 350-400W (configurable) |
マルチインスタンス GPUs |
Up to 7 MIGs 10GB each |
Up to 14 MIGs 12GB each |
フォームファクター |
PCIe Dual Slot 空冷 |
PCIe Dual Slot 空冷 |
相互接続 |
NVLink 600GB/s PCIe Gen5: 128GB/s |
NVLink 600GB/s PCIe Gen5: 128GB/s |
ジーデップ・アドバンスについて
株式会社ジーデップ・アドバンス(東証スタンダード、証券コード:5885)は、「Advance with you」をミッションに、GPGPUをはじめとするアクセラレーターやハイエンドワークステーション、広帯域ネットワークや高速ストレージを用いたクラスターシステム、さらにライブラリやコンパイラ、ジョブスケジューラなどの運用ツールの提供構築から運用支援まで、仕事や研究を前に進めるための手段をオンプレミスやレンタル、クラウドなどあらゆる形態で総合的に提供するAIとビジュアライゼーションのソリューションプロバイダです。NVIDIA社の「NPN(NVIDIA Partner Network)」においてエリートパートナーとして活動しています。
※記載されている会社名、製品名等は各社の登録商標あるいは商標です。
※記載されている情報はリリース時点のものです。予告なく仕様、価格を変更する場合や販売終了、延期となる場合があります。
ご購入前のお問い合わせはこちらから