AMD EPYC “Zen 5” Tawarkan Performa 1000 Server dengan 131 Server

AMD kembali menggelar acara tahunannya, Advancing AI 2024, untuk memperkenalkan jajaran produk terbaru mereka untuk Server dan Data Center. Sesuai dengan nama acaranya, produk yang diperkenalkan kali ini seharusnya akan membuat AI lebih canggih lagi berkat performa komputasinya yang meningkat. Pada acara kali ini, AMD memperkenalkan mulai dari CPU EPYC terbaru, GPU Instinct untuk akselerasi AI, hingga Dta Processing Units yang akan membuat komunikasi antar Server lebih kencang lagi.

AMD EPYC 5th Gen “Turin”

Bisa dikatakan, prosesor AMD EPYC 5th Gen ini adalah “bintang utama” dari acara Advancing AI tahun 2024 ini. Salah satu peningkatan yang signifikan adalah penggunaan arsitektur CPU Zen 5 dan Zen 5c yang diklaim menawarkan performa dan efisiensi lebih baik dibandingkan sebelumnya. AMD sendiri mengklaim kalau EPYC 5th Gen menawarkan IPC 17% lebih tinggi dibandingkan sebelumnya. EPYC 5th Gen juga menawarkan konfigurasi hingga 192-Core/384-Thread dengan Clock Speed hingga 5 GHz. Tidak ketinggalan, EPYC 5th Gen juga mendukung penuh instruksi AVX 512-bit.

Salah satu daya tarik EPYC 5th Gen adalah prosesor ini tetap menggunakan soket SP5 jadi seharusnya tetap kompatibel dengan Motherboard EPYC 4th Gen, cukup dengan melakukan Update BIOS dan Firmware. Prosesor EPYC 5th Gen juga tetap mendukung konigurasi Memory/RAM 12-Channel tetapi kini kecepatannya ditingkatkan menjadi 6400 MHz. Selain itu, dukungan 128-Lane PCI Express 5.0 juga tetap dipertahankan disini.

Pada gambar diatas dapat dilihat sejauh apa peningkatan yang ditawarkan EPYC 5th Gen dibandingkan pendahulunya EPYC 4th Gen.

Nah, salah satu daya tarik EPYC 5th Gen ini adalah perusahaan bisa mendapatkan performa komputasi 1000 Server dengan hanya menggunakan 131 Server saja. Jadi perusahaan tidak memerlukan tempat yang luas untuk Server mereka, biaya kepemilikan Server juga lebih rendah, dan juga lebih hemat dalam penggunaan daya listrik yang berujung menurunnya biaya operasional.

Prosesor AMD EPYC 9005 Series sendiri akan tersedia dua jenis arsitektur yaitu Zen 5 dan Zen 5c. Untuk versi Zen 5 akan tersedia hingga konfigurasi 128-Core/256-Thread dengan Rating TDP hingga 500 Watt. Sementara versi Zen 5c akan tersedia hingga konfigurasi 192-Core/384-Thread dengan Rating TDP juga hingga 500 Watt. AMD juga menyediakan varian yang memiliki kecepatan 5 GHz tetapi dengan jumlah Core lebih rendah.

Prosesor AMD EPYC sendiri terus menunjukkan tren peningkatan Market Share-nya dari tahun ke tahun. Dari hanya 2% di tahun 2018 dengan EPYC 1st Gen-nya hingga mencapai 34% pada tengah tahun pertama di 2024. Jadi hanya butuh enam tahun saja bagi AMD untuk menggenjot Market Share mereka hingga sebesar itu.

Pada gambar diatas dapat dilihat sejumlah Partner AMD yang telah mempercayakan Server mereka dengan prosesor EPYC.

AMD Instinct MI325X

Tidak hanya sisi prosesor saja, pada acara kali ini AMD juga memperkenalkan GPU Server mereka untuk akselerator komputasi AI yaitu AMD Instinct MI325X. Dibandingkan pendahulunya Instinct MI300X, sebenarnya Instinct MI325X masih menggunakan Chip GPU yang sama dengan basis CDNA3. Walaupun begitu, pada Instinct MI325X kapasitas Memory/VRAM-nya ditingkatkan dari sebelumnya 192 GB menjadi 256 GB. Kecepatan Memory/VRAM juga ditingkatkan dari 5.2 GHz menjadi 6 GHz berkat penggunakan Chip HBM3E.

Instinct MI325X sendiri diklaim mampu menawarkan performa lebih kencang dibandingkan kompetitornya, NVIDIA H200, baik dari sisi performa Inference ataupun Training. Instinct MI325X juga diklaim tetap kompatibel dengan Platform yang digunakan Instinct MI300X sehingga memudahkan perusahaan untuk melakukan Upgrade, tanpa perlu mengganti total sistem yang telah ada sehingga lebih hemat dari segi biaya.

Pada kesempatan kali ini AMD juga menunjukkan kalau mereka sedang mempersiapkan GPU Server terbaru mereka Instinct MI355X dengan basis CDNA4. Akselerator komputasi AI tersebut diklaim akan menawarkan performa komputasi AI 7X lebih kencang dibandingkan Instinct MI325X sekalipun. Sayangnya, untuk Instinct MI355X tersebut baru bisa didapatkan pada akhir tahun 2025 mendatang.

AMD Pensando Salina/Pollara 400

Selain CPU dan GPU Server terbaru, AMD juga memperkenalkan DPU (Data Processing Units) dan solusi Networking terbaru untuk memfasilitasi komputasi AI yang makin kompleks. Sebelumnya, solusi Networking untuk Server atau Data Center terbilang sederhana. Tapi untuk sekarang, dibutuhkan jaringan yang lebih kompleks dimana masing-masing jaringan akan memiliki kebutuhan dan peran yang berbeda satu sama lain. Oleh karena itu dibutuhkan DPU dan Network Adapter yang lebih kencang untuk mengakomodir komputasi AI yang beragam.

Untuk DPU, AMD memperkenalkan Pensando Salina 400 yang akan diposisikan pada Front-End Network, untuk meng-Offload dan me-Manage fungsi Network, Security, Storage dari CPU. Jadi komponen CPU dapat dialokasikan untuk menjalankan komputasi lainnya yang lebih penting.

Sementara untuk Back-End Network-nya, AMD memperkenalkan Pensando Pollara 400 yang merupakan Network Adapter pertama yang memenuhi sertifikasi dari Ultra Ethernet Consortium. Network Adapter ini mampu menghubungkan Server atau Data Center dengan kecepatan hingga 400 Gbps.

Dibandingkan solusi InfiniBand, solusi Ethernet seperti yang dihadirkan dengan Pensando Salina 400 dan Pensando Pollara 400 menawarkan total biaya kepemilikan 50% lebih rendah dan tingkat skabilitas hingga lebih dari 1 juta GPU.