Google Resmi Perkenalkan Dua Chip TPU Generasi Ke-8 untuk Era AI Agentic

Google resmi memperkenalkan Tensor Processing Unit (TPU) generasi ke-8 yang hadir dalam dua varian, yaitu TPU 8t dan TPU 8i. Kedua chip ini dikembangkan bersama DeepMind dan dirancang untuk kebutuhan AI yang berbeda. Secara sederhana, TPU 8t difokuskan untuk melatih model AI, sementara TPU 8i ditujukan untuk menjalankan model AI yang sudah jadi secara real-time.

Tugas Masing-Masing TPU Google

Mereka menghadirkan TPU 8t sebagai varian untuk proses training atau pelatihan model AI skala besar. Dalam satu sistem superpod, mereka bisa menggabungkan hingga 9.600 chip sekaligus dengan total memori berkecepatan tinggi mencapai 2 petabyte. Mereka menyebut performa satu pod TPU 8t hampir tiga kali lebih tinggi dibanding generasi sebelumnya, yaitu Ironwood.

Sementara itu, TPU 8i dirancang untuk kebutuhan inference, yaitu saat model AI digunakan langsung oleh pengguna. Peran ini semakin penting ketika chatbot atau asisten AI harus merespons cepat dan menangani banyak permintaan pengguna sekaligus. Google mengklaim TPU 8i menawarkan efisiensi performa per dolar hingga 80% lebih baik dibanding Ironwood.

Baca Juga: OpenAI Luncurkan ChatGPT Images 2.0, Bisa Berfikir Sebelum Generate Gambar

Perwakilan Google menyebut bahwa dengan menyelaraskan desain silikon bersama perangkat keras, jaringan, dan perangkat lunak secara menyeluruh, performa dan efisiensi daya bisa ditingkatkan secara drastis. Apalagi TPU 8t dan TPU 8i sama-sama memakai CPU host berbasis Arm buatan mereka sendiri bernama Axion yang sudah mendukung liquid cooling.Pendekatan terpadu seperti inilah yang membuat Google bisa semakin leluasa membangun infrastruktur AI mandiri tanpa terlalu bergantung pada GPU pihak ketiga.

Dengan dua chip berbeda untuk dua tugas utama, apakah TPU buatan Google bisa menjadi penantang serius dominasi GPU AI saat ini?

Sumber 1 | 2