Qualcomm Technologies dan Meta mengumumkan kolaborasi terbarunya pada tanggal 23 April 2024 yang lalu. Kolaborasi tersebut untuk mengoptimalkan kemampuan LLM Meta Llama 3 pada berbagai perangkat, termasuk smartphone, PC, VR/AR, dan kendaraan. Kolaborasi ini menjanjikan berbagai manfaat, seperti respon perangkat yang lebih cepat, privasi yang lebih terjaga, dan pengalaman yang lebih personal bagi pengguna.
“Kami menyambut baik keterbukaan Meta dengan Llama 3 dan berkomitmen untuk memberdayakan developer dan mendorong inovasi AI yang berkelanjutan,” ujar Durga Malladi, Senior Vice President dan General Manager of Technology, Qualcomm Technologies, Inc. “Kepemimpinan kami dalam AI on-device dan jangkauan teknologi kami yang luas akan membantu kami menghadirkan manfaat Llama ke seluruh dunia, seraya memungkinkan para pelanggan, mitra, dan developer untuk menciptakan pengalaman AI inovatif generasi baru.”
Kolaborasi ini bertujuan untuk mendemokratisasi AI generatif dengan mendorong peran OEM dan developer untuk mengintegrasikan Llama 3 ke dalam perangkat yang ditenagai oleh platform Snapdragon. Qualcomm memanfaatkan arsitektur komputasi heterogennya yang kuat, termasuk CPU, GPU, dan NPU terdepan. Desain memori yang dimiliki juga lebih modern dan bisa memaksimalkan kinerja aplikasi, efisiensi suhu, dan masa pakai baterai.
Developer dapat mengakses berbagai sumber daya untuk menjalankan Llama 3 secara optimal pada platform Snapdragon melalui Qualcomm AI Hub. Qualcomm AI Hub sendiri saat ini menawarkan sekitar 100 model AI yang dioptimalkan. Qualcomm AI Hub telah membantu developer mengurangi time-to-market dan memperluas penggunaan AI pada perangkat mereka.
Manfaat Kolaborasi Qualcomm dan Meta
Kolaborasi ini bakal memberikan manfaat seperti
- Respon perangkat yang lebih cepat: Llama 3 dapat dijalankan secara langsung pada perangkat, sehingga mengurangi latensi dan meningkatkan kecepatan respon.
- Privasi yang lebih terjaga: Data pengguna diproses secara lokal di perangkat, sehingga privasi pengguna lebih terjaga.
- Pengalaman yang lebih personal: Llama 3 dapat digunakan untuk memberikan pengalaman yang lebih personal dan kontekstual bagi pengguna. Hal tersebut seperti asisten virtual pintar, alat produktivitas, platform pembuatan konten, dan aplikasi hiburan.
Qualcomm dan Meta berkomitmen untuk mendorong inovasi dan menghadirkan pengalaman AI generasi berikutnya. Kolaborasi ini merupakan langkah penting dalam upaya mereka untuk memberdayakan developer dan pengguna dengan kemampuan AI yang canggih.
