NVIDIA B200 搭載 NVIDIA DGX B200
NVIDIA B200 GPU搭載 第6世代DGXプラットフォーム「NVIDIA DGX B200」
NVIDIA DGX B200は2024年３月のNVIDIA主催のイベントGTC2024で発表のあった、世界で初めてNVIDIA B200 TensorコアGPUを搭載したシステムです。第5世代のNVIDIA NVLinkで相互接続された8基のNVIDIA B200 GPUを搭載したDGX B200は、前世代と比較してトレーニング性能は3倍、推論性能は15倍の最先端の性能を提供します。
（※NVIDIA B200 についてはGTC2024レポートもご覧ください。）
この次世代NVIDIA Blackwell GPU アーキテクチャを採用した DGX B200 はNVIDIA DGX BasePOD™ や NVIDIA DGX SuperPOD™ の土台であり、大規模言語モデル、レコメンダーシステム、チャットボットなどの多様なワークロードを処理することができ、AIトランスフォーメーションの加速を目指す組織に最適です。
実証済みのインフラストラクチャ・スタンダード
DGX B200 は、NVIDIA Base CommandおよびNVIDIA AI Enterpriseソフトウェアを含む、完全な NVIDIA AIソフトウェアスタックであり、豊富なサードパーティサポートのエコシステムです。さらには NVIDIAプロフェッショナルサービスチームによる支援をも含めた、完全に最適化されたハードウェアおよびソフトウェアプラットフォームです。このNVIDIAプロフェッショナルサービスチームは、インストールと展開、研修やワークロードの最適化に至るまで、コスト削減と本番稼働までの時間短縮を支援します。また、NVIDIAエンタープライズサービスを活用してAI導入のあらゆる段階でNVIDIAのエキスパートの支援を受けることで、プロジェクトを短期間で成功に導くことも出来るでしょう。
あらゆる組織へのスーパーコンピューティングの提供
NVIDIA DGX B200 は、NVIDIA DGX BasePOD および NVIDIA DGX SuperPOD といったAIデータセンター インフラストラクチャプラットフォームを構成することが可能です。NVIDIA DGX BasePODは、あらゆる業界における重要な業務で組織がAIに力を発揮させる為のAI インフラストラクチャを構築および拡張するリファレンス アーキテクチャを提供します。
NVIDIA DGX SuperPODは、きわめて困難なAIおよびハイパフォーマンス コンピューティング (HPC) ワークロードに対して、最高クラスのアクセラレーテッド インフラストラクチャと俊敏かつスケーラブルなパフォーマンスを提供し、業界で認められた結果をもたらします。
NVIDIA DGX B200 構成
◆ 8基のNVIDIA B200 GPU、合計GPUメモリ1440GB（前世代比2.25倍）第5世代NVIDIA® NVLink®採用、GPU間の双方向帯域幅1800GB/秒（前世代比2倍）
FP8トレーニング性能72PetaFLOPS、FP4推論性能144PetaFLOPS
◆ OSFPポート x4がシングルポート x8を提供するNVIDIA ConnectX-7 VPI
最大400GB/sのInfiniBand/Ethernet
◆ 2基のデュアルポートQSFP112 NVIDIA BlueField-3 DPU
最大400GB/sのInfiniBand/Ethernet
◆ 2基のIntel® Xeon® Platinum 8570 と 4TBのシステムメモリ
コア数112・最大動作クロック4GHzのパワフルなCPUと豊富なシステムメモリ
◆ 30TB U.2 NVMe SSD
最高のパフォーマンスを実現するための高速ストレージ
NVIDIA DGX B200 仕様
| GPU | NVIDIA B200 Tensor Core GPU x 8基 |
| GPUメモリ | Total 1440 GB |
| パフォーマンス | 72 petaFLOPS FP8 |
| NVIDIA NV Switch数 | 2 |
| CPU | Dual Intel® Xeon® Platinum 8570 |
| システムメモリ | 2TB～4TB |
| ネットワーク | 4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 VPI >Up to 400Gb/s InfiniBand/Ethernet 2x dual-port QSFP112 NVIDIA BlueField-3 DPU >Up to 400Gb/sのInfiniBand/Ethernet 10Gb/s onboard NIC with RJ45 100Gb/s dual-port ethernet NIC BMC（ベースボード管理コントローラー）with RJ45 |
| ストレージ | OS: 1.92 TB M.2 NVMe drives x2 内部ストレージ:30 TB (3.84 TB x8) U.2 NVMe drives |
| PSU | 3300W 3+3 Rdundant |
| システム電力 | 14.3kw（TBD) |
| サイズ | Height 444 x Width 482.2 x Length 897.1(mm) RackUnits U |
| ソフトウェア | DGX OS / Ubuntu:オペレーティング システム NVIDIA AI Enterprise:最適化された AI ソフトウェア（オプション） NVIDIA Base Command™:オーケストレーション、スケジューリング、クラスター管理（オプション） |
| 動作温度範囲 | 5℃～30℃ |
※仕様は予告なしに変更されることがあります。
※データシートはこちらから入手可能です。
導入のご相談はDGX国内累計販売実績No.1の株式会社ジーデップ・アドバンスまで
ジーデップ・アドバンスはDGXに対する豊富な実績から、NVIDIAのベストパートナーとして受賞されております。
また、DGXのソフトウェアスタックに標準採用されるBase Command オーケストレーションツールについても、そのポートフォリオのベースとなっている Bright Cluster Manager の代理店として国内トップクラスの知見を有しています。DGX B200という最新で最強のツールをスムーズに導入して頂くために是非私達にお手伝いをさせて下さい。
