Apa Itu AI Lokal? Pengertian dan Contohnya
Apa itu AI lokal? Kecerdasan Buatan atau Artificial Intelligence (AI) biasanya digunakan melalui jaringan internet. Beberapa di antaranya seperti ChatGPT dan Google Gemini. Namun, tahukah kalian kalau AI juga bisa dijalankan langsung di PC atau laptop sendiri? Teknologi ini dikenal sebagai AI lokal.
Yah ada juga sih layanan AI yang dibuat oleh perusahaan lokal Indonesia. Layanan tersebut bisa juga disebut sebagai AI lokal. Akan tetapi, di artikel ini kita tidak membahas AI yang dibuat oleh perusahaan Tanah Air ya.
Lantas, apa itu AI lokal? Apa bedanya dengan AI yang berjalan melalui internet?
Apa Itu AI Lokal?
AI lokal adalah model AI yang dipasang dan dijalankan langsung di perangkat sendiri atau server lokal, bukan sepenuhnya melalui server milik penyedia layanan cloud.
Misalnya, kalian menjalankan model AI di PC untuk menjawab pertanyaan atau merangkum dokumen. Terkait dengan AI lokal, model diproses menggunakan resources atau sumber daya dari komputer sendiri.
Menariknya, AI lokal tidak selalu membutuhkan koneksi internet. Jika model dan semua komponen yang dibutuhkan sudah tersedia di perangkat, AI bisa digunakan secara offline. Namun, perlu diingat, proses mengunduh model, memperbarui aplikasi, atau mengakses fitur online tertentu tetap membutuhkan internet ya!
Baca Juga: Apa Itu Machine Learning? Pengertian dan Contohnya
Apa Bedanya AI Lokal dan AI Cloud?
Perbedaan utamanya cukup mudah. Kata kuncinya adalah tempat di mana pemrosesan AI dilakukan. Jika dilakukan di perangkat sendiri, seperti laptop, PC, atau server yang dikelola sendiri, metode ini disebut sebagai AI lokal. Sementara itu, layanan AI cloud memproses permintaan di server penyedia layanan yang diakses lewat internet.
AI lokal menawarkan kendali lebih besar atas data karena dilakukan di perangkat yang dikelola sendiri. Jika aplikasi benar-benar berjalan secara lokal dan tidak mengirim data ke luar perangkat, dokumen yang digunakan tidak perlu diunggah ke server pihak ketiga.
Namun, ini nih yang bisa jadi kendala terbesar AI lokal, yakni kemampuan dan performa hardware! Model biasanya membutuhkan komponen yang kuat seperti RAM, VRAM, dan kapasitas storage yang memadai.
Sebagai bayangan, perangkat dengan RTX Spark punya CPU 20-core, GPU Blackwell RTX dengan 6.144 CUDA core, unified memory hingga 128 GB, dan storage hingga 2 TB. Dengan spesifikasi seperti itu, sebuah perangkat memiliki performa AI mencapai 1 Petaflop FP4 yang mampu menjalankan AI lokal hingga 120 miliar parameter dengan context window 1 juta token secara langsung di perangkat.
Sebaliknya, layanan AI cloud memungkinkan pengguna mengakses model yang berjalan di server dengan kemampuan komputasi lebih besar, tanpa harus memiliki hardware serupa. Sebagai gambaran, kalian tidak perlu mengetahui sekencang apa spek yang dimiliki ChatGPT, yang penting dijalankan dan kalian menerima hasilnya.
Apa Kelebihan dan Kekurangan AI Lokal?
AI lokal memiliki beberapa kelebihan, antara lain:
- Bisa digunakan secara offline: Model yang sudah terpasang dapat berjalan tanpa internet, selama tidak membutuhkan layanan online tambahan.
- Kendali data lebih besar: Pemrosesan bisa dilakukan di perangkat sendiri sehingga data tidak harus dikirim ke layanan cloud.
- Tidak selalu membutuhkan langganan: Pengguna bisa menjalankan model lokal tanpa membayar biaya langganan layanan AI tertentu, meskipun biaya hardware dan listrik tetap perlu diperhitungkan.
Di sisi lain, ada beberapa kekurangannya:
- Membutuhkan hardware memadai: Model tertentu memerlukan RAM atau VRAM yang cukup besar.
- Kemampuan model bervariasi: Model lokal yang digunakan mungkin tidak sekuat model cloud tertentu, bergantung pada ukuran dan kemampuannya.
- Perlu konfigurasi: Pengguna mungkin harus memasang aplikasi, mengunduh model, dan mengatur beberapa parameter sebelum bisa menggunakannya.
Apa Contoh AI Lokal?
Ada beberapa perangkat lunak yang bisa digunakan untuk menjalankan AI secara lokal. Salah satunya adalah Ollama, yang memungkinkan pengguna mengunduh dan menjalankan berbagai model AI di komputer sendiri.
Selain itu, pengguna juga bisa menjalankan model pembuat gambar seperti Stable Diffusion secara lokal menggunakan perangkat lunak yang kompatibel.
Kesimpulan
AI lokal adalah AI yang pemrosesan modelnya dilakukan di perangkat sendiri atau server lokal. Pendekatan ini menawarkan kendali data yang lebih besar dan memungkinkan penggunaan offline jika seluruh kebutuhan sudah tersedia secara lokal.
Meski begitu, AI lokal membutuhkan sumber daya hardware yang sesuai dan belum tentu memiliki kemampuan setara dengan layanan AI cloud. Pilihannya bergantung pada kebutuhan, perangkat yang dimiliki, dan jenis pekerjaan yang ingin dilakukan.
Jadi, sudah tahu kan apa itu AI lokal?
More Articles
