Blackwell B200, GPU AI Baru NVIDIA Resmi Meluncur, 7x Lebih Kencang dari H100

NVIDIA telah menggelar event GTC 2024, dan mengumumkan chip AI dan GPU AI terbaru mereka. Chip tersebut adalah GB200, yang hadir di GPU Blackwell 200.

Spesifikasi NVIDIA Blackwell B200

Chip ini adalah penerus dari chip AI H100 dan menawarkan peningkatan kinerja dan efisiensi yang besar. Dengan chip tersebut, GPU Blackwell B200 mampu melakukan 20 petaflops FP4 berkat 208 miliar transistor di dalam chip.

Chip GB200 memiliki kinerja 30 kali lipat dari H100 dalam beban kerja inferensi LLM sambil mengurangi konsumsi energi 25 kali lipat. Dalam benchmark GPT-3 LLM, GB200 juga tujuh kali lebih cepat daripada H100.

Baca Juga: Nge-VLOG Bakal Makin Mudah Pakai VLOGGER AI Bikinan Google • Jagat Review

NVIDIA juga memberikan perbandingan soal efisiensi daya. Dimana  2.000 unit GPU Blackwell dapat melatih model dengan 1,8 triliun parameter hanya dengan menggunakan 4 megawatt. Dibandingkan dengan GPU Hopper sebelumnya, yang membutuhkan 8.000 unit GPU dengan daya hingga 15 megawatt.

Perusahaan asal Taiwan ini juga merancang chip switch jaringan baru dengan 50 miliar transistor yang dapat menangani 576 GPU dan memungkinkan komunikasi pada kecepatan 1,8 TB/s. Ini dapat mengatasi masalah komunikasi sebelumnya. Yaitu sebuah sistem yang menggabungkan 16 GPU, akan menghabiskan 60% waktunya untuk berkomunikasi dan 40% untuk komputasi.

GPU ini hadir dengan solusi lengkap bagi perusahaan, termasuk sistem pendingin yaitu dengan NVL72 yang memungkinkan 36 CPU dan 72 GPU dalam satu rak dengan cairan pendingin.

Beberapa perusahaan seperti Oracle, Amazon, Google, dan Microsoft telah berencana untuk mengintegrasikan rak NVL72 untuk layanan cloud mereka. Arsitektur GPU yang digunakan untuk GPU Blackwell B200 kemungkinan akan menjadi dasar dari seri RTX 5000 yang akan datang.

Sumber