NVIDIA Pamer Superkomputer AI Terkencangnya, Diperkuat 4.608 GPU H100!
NVIDIA baru-baru ini merilis sebuah video baru di akun YouTube mereka. Dalam video tersebut NVIDIA memamerkan superkomputer AI terbaru dan terkencang mereka bernama “Eos” yang didesain untuk pengembangan AI di level enterprise.
NVIDIA Eos tersebut berada di urutan ke-9 dalam daftar superkomputer terkencang di dunia. Superkomputer itu diperkuat dengan total 576 sistem DGX yang masing-masingnya terdiri dari delapan GPU H100.
Secara total, mesin tersebut memiliki 4.608 GPU H100. Dilengkapi pula dengan 1.152 prosesor Intel Xeon Platinum 8480C yang punya 56 core per prosesor. Spesifikasi itu membuat Eos mampu memberikan performa 121.4 FP64 PetaFLOPS untuk HPC dan 18.4 FP8 ExaFLOPS untuk AI.
Selain hardware yang luar biasa, NVIDIA Eos juga memiliki software yang mumpuni untuk pengembangan dan penerapan AI. Dikatakan bahwa mesin tersebut dapat menangani berbagai pengaplikasian, mulai dari generative Ai seperti ChatGPT hingga menjalankan pabrik dengan AI.
Dari segi jaringan juga tidak kalah hebat. Menggunakan sistem jaringan Mellanox Quantum-2 InfiniBand dari NVIDIA dengan teknologi In-Network Computing, membuat superkomputer tersebut memiliki kecepatan transfer data hingga 400 Gb/s.
Membayangkan berapa harga dari “Pabrik AI” mungkin tidak akan pernah ada dalam pikiran kalian. Untuk GPU H100-nya saja satu unitnya seharga hingga Rp600 juta. Bayangkan angka tersebut dikali 4.608, belum lagi prosesor serta infrastruktur lainnya.
More Articles
