Kolaborasi Alibaba Cloud dan MediaTek Hadirkan AI Generatif di Smartphone

Suara.com - Alibaba Cloud bekerja sama dengan MediaTek, mendorong penggunaan AI di perangkat terbaru, dimulai dengan ponsel pintar.

Saat ini, versi large language model Qwen dengan parameter 1.8 miliar dan 4 miliar dapat dijalankan pada chipset premium generasi ketiga dari MediaTek, Dimensity 9300 dan Dimensity 8300.

Hal ini memungkinkan ponsel pintar menjalankan tugas AI seperti menjawab beragam pertanyaan bahkan saat tidak terhubung ke internet atau memiliki koneksi yang terbatas.

Baca Juga: Harga dan Layanan Baru Alibaba Cloud, Diskon Gede-gedean

AI generatif, yang sebelumnya hanya dapat diakses melalui pusat data, kini bisa hadir langsung di ponsel pintar.

Gartner memperkirakan bahwa hingga akhir 2024, akan ada 240 juta ponsel pintar dengan GenAI dan 54,5 juta PC dengan AI yang akan didistribusikan.

Kehadiran gawai ini akan mencakup 22 persen dari ponsel pintar kelas biasa, menengah, dan premium, serta 22 persen dari semua PC di tahun 2024.

Xu Dong, Head of Business Development di Qwen team, melihat minat yang meningkat dari banyak perusahaan untuk menggunakan LLMs berukuran lebih kecil ke dalam gawai, untuk mendorong aplikasi AI generatif.

"Melalui kemitraan dengan MediaTek, kami ingin memberikan lebih banyak kesempatan kepada para pengembang untuk bisa menciptakan aplikasi AI yang inovatif dan mudah digunakan supaya pengguna di seluruh dunia bisa merasakan manfaat dari AI generatif," katanya dalam keterangan resminya, Kamis (25/4/2024).

Baca Juga: Apple Gandeng Startup Perancis Demi iPhone 16, Diprediksi Memperkaya Teknologi AI Generatif

Peralihan dari cloud ke gawai didorong oleh munculnya LLMs yang lebih kecil yang biasanya berkisar dari beberapa juta hingga beberapa miliar.

Dibandingkan model sebelumnya yang lebih besar, model-model ini lebih efisien secara komputasi, lebih ekonomis, dan dapat disesuaikan dengan kebutuhan pengguna perangkat terbaru.

Baca Juga: Startup China 01.AI Model Open Source AI dengan Valuasi Rp15 Miliaran

Alibaba Cloud telah menyediakan versi open source dari LLM dengan parameter 1,8 miliar, Qwen-1.8B, awal tahun lalu.

Karena memang dioptimalkan untuk perangkat yang lebih kecil, model ini membutuhkan daya komputasi yang lebih sedikit untuk dijalankan.

Sehingga memungkinkan aplikasi yang didukung oleh LLM berjalan di ponsel pintar dengan keterbatasan atau tanpa koneksi jaringan.