Copilot Bisa Jalan di PC Secara Offline, Ini Syaratnya!

Copilot, tools AI dari Microsoft kabarnya akan bisa berjalan secara lokal di PC. Seperti yang diungkap oleh pihak Intel kepada media Tom’s Hardware. Ya, seperti yang kita tahu saat ini Copilot masih berjalan dengan menggunakan sistem cloud, yang mana pengguna masih butuh internet untuk bisa mengakses fitur ini.

Intel menyabutkan kalau PC AI generasi mendatang akan memiliki unit pemrosesan neural (NPU) bawaan dengan perfroma lebih dari 40 TOPS (triliun operasi per detik). Dan ini memungkinkan untuk tools AI seperti Copilot bisa berjalan secara lokal. Tentunya performa ini masih jauh dari kemampuan prosesor konsumen yang ada di pasaran saat ini.

Kelebihan Copilot Versi Offline

Dengan menjalankan Copilot secara offline, PC AI akan mampu menjalankan “lebih banyak elemen Copilot” secara langsung, sehingga mengurangi keterlambatan yang terjadi saat menggunakan cloud untuk tugas-tugas kecil. Jadi pengguna bisa merasakan pengalaman yang lebih responsif dan lancar bagi pengguna.

Baca Juga: Strategi Intel Enterprise di Industri AI: Hardware, Software hingga Security • Jagat Review

Microsoft sendiri sebelumnya sempat menyebutkan kalau Copilot akan memiliki kebutuhan 40 TOPS dengan RAM berkapasitas 16GB, namun tidak menyebut kalau ini akan berjalan secara offline menggunakan NPU pada prosesor. Sejauh ini, di sistem Windows, penggunaan NPU baru terbatas pada fitur-fitur tertentu seperti efek video backround blur pada webcam, Noise Reduction, dan sebagainya.

Disisi lain, perangkat lain seperti ChromeOS dan macOS, di sisi lain, sudah menggunakan daya NPU untuk lebih banyak fitur. Seperti pemrosesan video dan audio, OCR, terjemahan, transkripsi langsung, dan lainnya. Meskipun memang belum digunakan untuk generative AI sepert Gemini, Copilot maupun Chat GPT.

Kekuatan AI Prosesor Saat Ini

Saat ini, rata-rata prosesor masih memiliki NPU  dibawah standar yang disebutkan oleh Microsoft tadi. Apple M3 memiliki NPU dengan kekuatan 18 TOPS Lalu diikuti oleh chip laptop Ryzen 8040 dan 7040 dari AMD dengan masing-masing 16 dan 10 TOPS, serta Intel Meteor Lake laptop yang juga mencapai 10 TOPS.

Qualcomm mungkin akan menjadi SoC pertama denagn kekuatan yang cukup untuk komputasi Copilot secara offline tersebut. Yaitu lewat produk Snapdragon X Elite, yang memiliki kekukatan kompuatasi AI sebesar 45 TOPS. Namun, belum ada pengujian langsung dari Microsoft maupun Qualcomm sejauh ini.

Sementara itu, Intel bernecana menghadirkan chip Lunar Lake yang akan hadir pada tahun 2025, akan membawa tiga kali lipat kecepatan NPU dibandingkan chip saat ini.

Selain itu, Intel juga mengumumkan 300 fitur AI baru yang dioptimalkan khusus untuk platform OpenVino miliknya. Intel juga mengembangkan kit PC AI berbasis ASUS NUC Pro yang menggunakan silikon Meteor Lake saat ini.

Sumber