Produsen chip AMD mengklaim prosesor seri Ryzen 7040 Phoenix dan Ryzen 8040 mereka lebih unggul dalam menjalankan model bahasa besar (LLM) dibandingkan Intel Core Ultra Meteor Lake. Keunggulan ini ternyata bisa mencapai 79% lebih cepat. LLM sendiri biasanya digunakan untuk berbagai macam AI chatbot seperti ChatGPT dan Google Gemini.
AMD membandingkan performa prosesor Ryzen 7 8740U dengan Intel Core Ultra 7 155H. Kedua prosesor sama-sama memiliki unit pemrosesan neural (NPU) khusus. Pengujian dilakukan pada LLM Mistral 7b, Llama v2, dan Mistral Instruct 7B.
Dalam LLM Llama v2 Chat, chip Ryzen 7 8740U mampu memproses 14% lebih cepat dibanding Core Ultra 7 155H. Keunggulan serupa terjadi pada Mistral Instruct dengan peningkatan 17% untuk Ryzen. Bahkan untuk metrik “Time to First Token for Sample Prompt“, prosesor AMD bisa 79% lebih cepat di Llama v2 dan 41% lebih cepat di Mistral Instruct.
AMD juga menunjukkan keunggulan pada LLM Llama v2 7B Chat dengan berbagai pengaturan berbeda. Secara rata-rata, Ryzen 7 8740U 55% lebih cepat dari kompetitornya, bahkan mencapai 70% lebih cepat pada pengaturan tertentu.
Dominasi performa AI AMD ini mungkin tidak bertahan lama. Teknologi NPU saat ini masih terus berkembang. Jika pengembang aplikasi tidak banyak yang memanfaatkan framework OpenVINO milik Intel, maka Intel berpotensi mengejar ketertinggalan. OpenVINO diketahui bisa meningkatkan performa AI secara signifikan, terbukti dengan peningkatan 54% pada Intel A770. OpenVino memungkinkan pengembang untuk menjalankan model AI di berbagai perangkat keras, termasuk komputer tanpa kartu grafis khusus.
Belum lagi, Intel berencana merilis arsitektur CPU mobile Lunar Lake akhir tahun ini. Kabarnya, Lunar Lake menawarkan performa AI 3x lipat lebih baik dari Meteor Lake, serta peningkatan signifikan pada performa CPU core. Hal ini tentu saja bisa mengubah hasil akhir benchmark yang telah dilakukan oleh AMD tersebut.
Berdasarkan pengujian saat ini, performa NPU AMD memang lebih unggul, terutama pada seri Ryzen 8040. Namun, peta persaingan bisa berubah drastis di akhir tahun nanti. Semuanya tergantung pada keberhasilan Intel dengan Lunar Lake dan strategi optimasi AI mereka.
Sumber: Tomshardware
Gambar: AMD
