Qualcomm, perusahaan teknologi nirkabel terkemuka, telah bergabung dengan Meta untuk memperkenalkan kemampuan AI on-device melalui model bahasa besar Llama 2 (LLM) pada smartphone unggulan dan komputer PC. Kolaborasi ini dijadwalkan dimulai pada tahun 2024, memberdayakan para pengembang untuk menciptakan aplikasi AI generatif yang menarik dengan memanfaatkan kemampuan AI dari platform Snapdragon.
Penggunaan implementasi AI on-device menawarkan beberapa keuntungan, termasuk peningkatan privasi pengguna, peningkatan preferensi keamanan, keandalan aplikasi yang lebih baik, dan personalisasi. Selain itu, pendekatan ini secara signifikan mengurangi biaya bagi para pengembang dibandingkan dengan mengandalkan sepenuhnya pada implementasi AI berbasis cloud dan layanan.
Integrasi Llama 2 ke dalam perangkat seperti smartphone, PC, headset VR/AR, dan kendaraan memungkinkan para pengembang untuk menghemat biaya cloud dan memberikan pengalaman pribadi, andal, dan dipersonalisasi bagi para pengguna. Aplikasi yang dapat dibangun menggunakan AI on-device sangat beragam, mencakup asisten virtual cerdas, alat produktivitas, perangkat lunak penciptaan konten, hiburan, dan banyak lagi. Pengalaman AI ini dapat berfungsi bahkan di daerah tanpa konektivitas atau saat mode pesawat aktif.
Durga Malladi, wakil presiden senior dan manajer umum bisnis teknologi, perencanaan, dan solusi edge di Qualcomm Technologies, Inc., memuji pendekatan Meta yang terbuka dan bertanggung jawab terhadap AI. Ia menegaskan komitmen Qualcomm untuk mendorong inovasi dan membuat AI generatif dapat diakses oleh pengembang dari berbagai skala dengan memungkinkan AI berjalan baik di cloud maupun perangkat di tepi jaringan.
Kolaborasi antara Meta dan Qualcomm Technologies dibangun di atas sejarah kerjasama mereka untuk menyampaikan pengalaman perangkat premium. Keunggulan Qualcomm dalam AI on-device membuatnya unik dalam mendukung ekosistem Llama, dengan miliaran perangkat seperti smartphone, kendaraan, headset XR, kacamata, PC, perangkat IoT, dan lainnya yang sudah didukung oleh solusi perangkat keras dan perangkat lunak AI terdepan di industri.
Para pengembang dapat mulai mengoptimalkan aplikasi untuk AI on-device hari ini dengan menggunakan Qualcomm AI Stack, kumpulan alat khusus yang secara efisien memproses AI pada perangkat Snapdragon, bahkan pada perangkat kecil, tipis, dan ringan.
Meta, perusahaan di balik Llama 2, mengumumkan bahwa mereka telah membuka sumber kode AI model ini, memungkinkan bisnis, startup, wirausahawan, dan peneliti untuk mengakses lebih banyak alat dan bereksperimen dengan aplikasi-inovatif. Langkah ini diharapkan dapat menghasilkan manfaat ekonomi dan sosial karena para pengembang dan peneliti dapat melakukan uji coba intensif pada LLM, mengidentifikasi dan memecahkan masalah dengan lebih cepat, dan berkontribusi pada membuat model AI ini lebih aman melalui penyesuaian dan pembandingan.
Dalam pengumuman terkait, Microsoft dan Meta memperluas kemitraan mereka, dengan Microsoft menjadi mitra pilihan untuk Llama 2. Model ini didukung di Azure dan Windows, sehingga dapat diakses oleh pengguna lebih luas. Llama 2 sudah tersedia dalam katalog model AI Azure dan dioptimalkan untuk bekerja secara lokal di Windows. Selain itu, Llama 2 juga akan tersedia melalui penyedia lain seperti Amazon Web Services (AWS) dan Hugging Face.
Dengan munculnya implementasi AI on-device, masa depan membawa berbagai kemungkinan aplikasi AI inovatif dan pengalaman yang dapat dinikmati secara lancar dan aman di berbagai perangkat.