NVIDIA Luncurkan Superchip Grace Hopper Terbaru untuk AI Generatif

Di tengah tren AI yang semakin berkembang pesat hingga saat ini, NVIDIA telah mengumumkan superchip besutannya, Grace Hopper GH200, untuk dugunakan sebagai dapur pacu utama dari data center yang memberikan proses komputasi dan performa untuk AI generatif semakin kencang.

Superchip kelas enterprise ini sekaligus merupakan superchip pertama di dunia yang menggunakan RAM HBM3e.

Grace Hopper GH200 dalam konfigurasi ganda (dual configuration) ini akan memberikan kapasitas memori hingga 3,5 kali lipat lebih banyak dan bandwidth 3 kai lipat lebih banyak dari generasi saat ini, dengan terdiri dari 144 inti Arm Neoverse, 8 petaflop kinerja AI, serta 282GB teknologi RAM HBM3e terbaru yang semuanya merupakan bagian dari satu buah server.

RAM HBM3e ini menawarkan kecepatan 50% lebih baik dari HBM3 saat ini, dengan memberikan bandwidth gabungan total 10TB/detik sehingga memungkinkan platform baru untuk menjalankan model AI generatif 3,5 kali lipat lebih besar dan kinerja bandwidth memori 3 kali lipat lebih cepat dari versi sebelumnya.

Platform ini bisa dihubungkan dengan Superchip tambahan oleh NVIDIA NVLink yang memungkinkan para pengguna untuk bisa menggunakan keduanya secara bersamaan guna menerapkan model raksasa yang digunakan untuk AI generatif.

Melansir rilis resmi NVIDIA, platform GH200 Grace Hopper Superchip yang baru ini didesain untuk memenuhi lonjakan permintaan AI generatif yang semakin tinggi, sehingga pusat data pun membutuhkan platform komputasi yang lebih kencang untuk memenuhi kebutuhan khusus tersebut.

Untuk ketersediaannya sendiri, NVIDIA menyebutkan bahwa superchip generasi baru ini akan hadir pada Q2 2024 mendatang.