NVIDIA Umumkan Memori “NVHBM”, Diklaim Lebih Unggul dari HBM4E

NVIDIA memperkenalkan solusi memori high-bandwidth memory (HBM) buatannya sendiri yang diberi nama NVHBM. Teknologi ini dirancang untuk GPU dan chip AI generasi mendatang yang semakin butuh bandwidth memori besar. NVIDIA mengklaim NVHBM mampu menawarkan bandwidth 30% lebih tinggi sekaligus konsumsi daya 15% lebih rendah dibandingkan HBM4E.

NVIDIA Persempit Jarak Die Memori

Salah satu perubahan utama NVHBM terletak pada posisi memory controller. NVIDIA memindahkannya dari XPU ke base die pada tumpukan HBM, sehingga jalur komunikasi antara prosesor dan memori bisa dibuat lebih efisien. Hal ini juga memungkinkan NVIDIA menghemat hingga 25% area die pada chip utama sehingga bisa dimanfaatkan untuk menambah komputasi.

NVIDIA mengembangkan desain memory controller NVHBM secara khusus dan akan mengintegrasikannya langsung ke base die HBM. Menariknya, implementasi NVHBM tidak akan terbatas pada satu produsen memori saja. NVIDIA berencana membuat standar NVHBM yang dapat digunakan oleh beberapa pemasok memori untuk mempermudah proses pengembangan dan validasi.

Salah satu pihak yang sudah menyatakan dukungannya adalah Amazon melalui Annapurna Labs. Teknologi ini nantinya akan dipadukan dengan NVLink Fusion untuk menghubungkan GPU NVIDIA dan chip AI buatan Amazon dalam satu arsitektur berskala rack. Chip Trainium generasi berikutnya, termasuk Trainium4, menjadi salah satu kandidat yang akan memanfaatkan teknologi tersebut.

Baca Juga: Arm Rilis Prosesor Server AGI, Siap Tantang Intel Xeon dan AMD EPYC • Jagat Review

NVHBM sendiri diproyeksikan sebagai senjata NVIDIA untuk menghadapi kebutuhan AI yang semakin berat, terutama ketika ukuran model mulai memasuki skala triliunan parameter. NVIDIA sendiri belum menyebut GPU mana yang akan menggunakannya, tetapi teknologi ini diperkirakan mulai diterapkan pada generasi Feynman yang dijadwalkan hadir pada 2028.

Sumber