Intel Gaudi 3 Resmi Diluncurkan: Tidak Lebih Kencang dari NVIDIA H100, Tapi Lebih Murah

Intel baru saja meluncurkan akselerator Intel Gaudi 3, yang dirancang khusus untuk beban kerja kecerdasan buatan (AI). Meskipun kecepatannya lebih rendah dibandingkan GPU Nvidia H100 dan H200, tapi Intel cukup yakin bisa bersaing. Terlebih karena harganya yang lebih terjangkau, dan biaya kepemilikan total (TCO) yang lebih rendah.

Spesifikasi Intel Gaudi 3

Intel Gaudi 3 dilengkapi dengan dua chiplet yang punya 64 core prosesor tensor, 8 mesin perkalian matriks, 96MB cache SRAM, serta bandwidth mencapai 19,2 TB/s. Akselerator ini juga memiliki 128GB memori HBM2E yang terbagi dalam delapan tumpuk memori, menawarkan bandwidth 3,67 TB/s.

Kemampuan pemrosesan media Gaudi 3 mencakup dukungan untuk format video H.265, H.264, JPEG, dan VP9. Selain itu, akselerator ini dilengkapi dengan 24 antarmuka jaringan 200 GbE dan 14 mesin media.

Kalau dibandingkan dengan pendahulunya yaitu Intel Gaudi 2, Gaudi 3 menunjukkan peningkatan signifikan, meskipun hanya mendukung operasi matriks FP8 dan BFloat16. Dari segi kinerja, Gaudi 3 dapat menghasilkan hingga 1856 BF16/FP8 matrix TFLOPS dan 28,7 BF16 vector TFLOPS dengan konsumsi daya sekitar 600W.

Baca Juga: Intel Gaudi 3 Diumumkan di Event Computex 2024: 1835 TFLOPS! • Jagat Review

Untuk harga, Kit akselerator yang terdiri dari delapan prosesor Gaudi 3 diperkirakan berharga sekitar $125.000. Ini jauh lebih murah dibandingkan satu unit Nvidia H100 dengan harga  mencapai USD $30.678.

Akselerator AI Gaudi 3 akan tersedia di IBM Cloud dan Intel Tiber Developer Cloud, serta sistem berbasis Xeon 6 dan Gaudi 3 dari Dell dan Supermicro pada kuartal keempat tahun ini.

Sumber