Modder Tingkatkan Performa AI di NVIDIA RTX 20, 30, dan 40 Series, Melonjak Hampir 2x Lipat
NVIDIA GeForce RTX ternyata punya performa komputasi AI yang bisa ditingkatkan tanpa mengganti hardware. Sejumlah modder menemukan cara untuk membuka pembatasan Tensor Core pada VGA card RTX 20, RTX 30, dan RTX 40 Series, dengan peningkatan performa yang mendekati dua kali lipat dalam pengujian tertentu.
Temuan ini menarik buat pengguna yang memanfaatkan VGA card GeForce untuk menjalankan AI secara lokal. Selama ini, NVIDIA membatasi kecepatan sejumlah operasi komputasi pada produk GeForce, meskipun GPU yang digunakan punya kemampuan serupa dengan produk profesionalnya.
Performa Komputasi AI Bisa Meningkat Drastis
Pembatasan tersebut berkaitan dengan operasi Tensor Core yang menggabungkan perhitungan FP16 atau BF16 dengan akumulasi FP32. Pada GeForce, operasi ini berjalan dengan throughput lebih rendah dibandingkan mode FP16 dengan akumulasi yang sama.
Modder kemudian mengembangkan tool open-source untuk mengubah konfigurasi GPU sebelum driver NVIDIA dimuat. Cara ini tidak membutuhkan penggantian komponen atau flash VBIOS.
Hasil pengujiannya cukup menarik. Pada RTX 3090 Ti, performa komputasi BF16 meningkat dari 87,5 menjadi 157,4 TFLOPS. Sementara itu, RTX 4090 mencatat throughput instruksi FP16 yang naik dari 165,6 menjadi 331,6 TFLOPS.
VGA card lawas seperti RTX 2080 Ti juga bisa mendapatkan peningkatan. Salah satu pengujian melaporkan performa FP16 naik dari 59,9 menjadi 111 TFLOPS.
Baca Juga: iMac M6 Resmi Diperkenalkan, Performa AI Diklaim 5x Lebih Kencang • Jagat Review
Bukan untuk Gaming
Peningkatan ini paling terasa pada pekerjaan yang mengandalkan komputasi matriks, seperti pemrosesan prompt LLM, pembuatan gambar AI, dan fine-tuning model. Namun, kenaikan performa di aplikasi nyata tidak selalu mencapai dua kali lipat seperti pada pengujian tertentu.
Pemrosesan prompt LLM, misalnya, dilaporkan meningkat sekitar 14–36%. Sementara itu, kecepatan menghasilkan token jawaban cenderung tidak banyak berubah karena lebih bergantung pada bandwidth memori.
Jadi, jangan berharap game berjalan dua kali lebih kencang setelah pembatasan ini dibuka. Modifikasi tersebut menyasar komputasi AI, bukan performa rendering grafis.
Baca Juga: iMac M6 Resmi Diperkenalkan, Performa AI Diklaim 5x Lebih Kencang • Jagat Review
Bukan Tanpa Resiko
Saat ini, sebagian besar tool masih ditujukan untuk Linux, meskipun ada versi Windows eksperimental untuk hardware tertentu. Kompatibilitasnya pun belum merata, dan belum ada metode unlock yang terkonfirmasi untuk RTX 50 Series. Toolsnya bisa diunduh melalui Github.
Pengguna juga perlu BERHATI-HATI karena modifikasi ini berpotensi menyebabkan sistem tidak stabil atau gagal melakukan boot. Dengan kata lain, potensi peningkatannya memang menarik, terutama bagi pengguna AI lokal, tetapi belum tentu layak dicoba pada PC utama yang harus selalu siap digunakan, apalagi untuk kalangan awam.
More Articles
