NVIDIA Bakal Pamer Sejumlah Inovasi AI Terbaru di Hot Chips 2024

Hot Chips 2024 – ajang konferensi yang menampilkan inovasi dari industri semiconductor/chip global akan segera digelar. NVIDIA bakal turut hadir di event tersebut, dan bakal akan memamerkan berbagai inovasi terbaru. Diantaranya inovasi pendukung platform NVIDIA Blackwell, serta penelitian tentang pendinginan cair dan penggunaan AI dalam desain chip. Konferensi ini menjadi ajang penting bagi para profesional di industri komputasi pusat data yang terus berkembang.

Kecanggihan Platform NVIDIA Blackwell

NVIDIA akan menjelaskan bagaimana platform Blackwell bisa menggabungkan berbagai chip, sistem, dan perangkat lunak NVIDIA CUDA untuk mendukung generasi baru AI di berbagai industri. Mulai dari termasuk GPU Blackwell, CPU Grace, unit pemrosesan data BlueField, kartu antarmuka jaringan ConnectX, NVLink Switch, switch Ethernet Spectrum, dan switch InfiniBand Quantum.

Selain itu salah satu teknologi yang akan diperkenalkan adalah NVIDIA GB200 NVL72, yang mana ini merupakan sistem pendingin cair yang menghubungkan 72 GPU Blackwell dan 36 CPU Grace, yang memungkinkan kinerja AI yang jauh lebih cepat dan efisien. Teknologi NVLink juga memungkinkan komunikasi antar GPU dengan sangat cepat dan latensi rendah, yang sangat penting untuk aplikasi AI generatif.

Jadwal NVIDIA di Hot Chips 2024

Di Minggu, 25 Agustus, ada tiga tutorial yang membahas solusi pendinginan cair hibrida untuk pusat data dan bagaimana AI, termasuk yang didukung oleh teknologi model bahasa besar (LLM), bisa membantu para insinyur merancang prosesor masa depan. Lalu pada Senin, 26 Agustus, NVIDIA akan mengadakan presentasi yang mengungkap detail arsitektur baru dari platform Blackwell, termasuk contoh bagaimana model AI generatif bekerja di atas chip ini.

Baca Juga: Wawancara Eksklusif dengan Ryan Sim, Senior Director Component Channel AMD APAC • Jagat Review

Ali Heydari, Direktur Pendinginan dan Infrastruktur Pusat Data di NVIDIA, akan mempresentasikan beberapa desain pusat data yang menggunakan teknologi pendinginan cair. Pendinginan cair ini lebih efektif dalam menghilangkan panas dibandingkan dengan pendinginan udara, memungkinkan pusat data untuk tetap dingin meskipun menangani beban kerja besar. Heydari juga akan membahas proyek COOLERCHIPS, di mana timnya menggunakan platform NVIDIA Omniverse untuk membuat model digital yang dapat memprediksi konsumsi energi dan efisiensi pendinginan, sehingga pusat data dapat dirancang dengan lebih optimal.

NVIDIA juga mengembangkan model AI yang membantu proses desain chip, meningkatkan efisiensi dan produktivitas. Mark Ren, Direktur Riset Otomasi Desain di NVIDIA, akan menjelaskan bagaimana agen AI berbasis LLM bisa digunakan dalam desain chip, serta memberikan contoh penerapan nyatanya dalam analisis waktu, optimalisasi sel, dan pembuatan kode otomatis.