AMD kembali mendobrak batas komputasi AI lokal di PC Windows dengan Ryzen AI Max+. Lewat pembaruan terbaru untuk LM Studio dan driver AMD Software: Adrenalin Edition 25.8.1 WHQL, kini pengguna bisa menjalankan model AI berparameter hingga 128 miliar secara lokal. Ini membuka peluang baru bagi pemanfaatan kecerdasan buatan skala besar tanpa perlu bergantung pada cloud.
Langkah ini menjadikan AMD Ryzen AI Max+ 395 (128GB) sebagai prosesor AI pertama di Windows yang mampu mengeksekusi model Meta Llama 4 Scout 109B. Model ini termasuk dalam kategori mixture-of-experts dan hanya mengaktifkan 17 miliar parameter per sesi. Namun, seluruh 109 miliar parameter tetap tersimpan dalam memori, memberikan performa setara model padat. Output yang dihasilkan mencapai hingga 15 token per detik—cukup untuk digunakan sebagai asisten AI dalam mobilitas.
Teknologi Variable Graphics Memory yang ditingkatkan memungkinkan Ryzen AI Max+ memaksimalkan kapasitas 96GB VGM. Dukungan ini penting untuk menangani beban kerja AI yang makin padat dan kompleks. Bahkan model sekelas Mistral Large dapat dijalankan dengan fleksibilitas kuantisasi tinggi melalui format GGUF. AMD secara jelas mendorong penggunaan LLM skala besar di perangkat tipis—hal yang sebelumnya hanya bisa dilakukan oleh server data center.
Peningkatan ini juga memberikan kebebasan dalam pengaturan konteks model. LM Studio, sebagai antarmuka utama, kini mendukung panjang konteks hingga 256.000 token. Token bisa dianggap sebagai unit kata, dan konteks sebesar ini memungkinkan sistem mengeksekusi aksi panjang dalam satu sesi. Contohnya: melakukan ringkasan dokumen SEC hingga 19.642 token atau menyederhanakan makalah kosmologi dari ARXIV dalam lebih dari 21.000 token.
Kebutuhan akan konteks panjang makin relevan dengan tren pemakaian MCP (multi-component prompting) dan alur kerja agen digital. AMD menekankan bahwa sistem seperti Ryzen AI Max+ memberikan landasan kuat bagi penggunaan token intensif, sesuatu yang tak mungkin dicapai dengan default LM biasa yang hanya 4096 token. Maka, perangkat seperti ini menjadi krusial untuk eksperimen tool-calling atau pengembangan agen AI lokal yang adaptif.
Pengguna dapat mengatur model berdasarkan kebutuhan, baik memilih yang lebih ringan untuk efisiensi maupun menjalankan versi kuantisasi tinggi seperti 16-bit demi kualitas keluaran. Meski ada trade-off antara performa dan presisi, AMD memastikan bahwa semua pilihan tersedia dan didukung penuh oleh sistem.
Model-model AI dari Meta, Google, dan Mistral pun disebut makin responsif terhadap tool-calling. Artinya, LLM yang dilatih sejak awal untuk menafsir dan memanggil alat tertentu akan semakin efisien dalam skenario lokal. Dalam beberapa bulan mendatang, pengguna bisa berharap pada hadirnya lebih banyak asisten AI lokal yang cerdas, gesit, dan hemat sumber daya.
Ryzen AI Max+ 395 (128GB) kini tersedia dari berbagai mitra seperti ASUS, HP, Corsair, dan Framework. Dengan kapabilitas ini, AMD menegaskan posisinya sebagai satu-satunya vendor yang menghadirkan solusi AI lengkap, mulai dari cloud hingga klien dalam format PC ringan dan tipis.
