Dalam dunia yang semakin bergantung pada kecerdasan buatan (AI), kebutuhan akan infrastruktur komputasi yang kuat semakin meningkat. Menjawab tantangan ini, Oracle Cloud Infrastructure (OCI) mengumumkan kolaborasi strategis dengan AMD untuk meluncurkan instans supercluster AI terbarunya, BM.GPU.MI300X.8.
Supercluster ini ditenagai oleh akselerator canggih AMD Instinct MI300X yang dipadukan dengan perangkat lunak terbuka ROCm™. Gabungan keduanya menjanjikan performa tinggi dan efisiensi untuk menjalankan model AI paling kompleks sekalipun, termasuk Large Language Model (LLM) yang membutuhkan daya komputasi masif.
“Kami sangat antusias untuk menghadirkan pilihan baru bagi para pelanggan yang ingin memaksimalkan beban kerja AI mereka dengan harga kompetitif,” ungkap Donald Lu, Senior Vice President Pengembangan Perangkat Lunak, Oracle Cloud Infrastructure. “Kemampuan inferensi akselerator AMD Instinct MI300X melengkapi portofolio instans bare metal performa tinggi OCI, mengeliminasi beban komputasi virtual yang umum dijumpai pada infrastruktur AI konvensional.”
Instans bare metal OCI dirancang untuk menangani beban kerja AI berat, seperti pelatihan dan inferensi LLM yang menuntut throughput tinggi, kapasitas memori besar, dan bandwidth optimal. Keunggulan ini telah menarik minat berbagai perusahaan, termasuk Fireworks AI, untuk mengadopsi solusi ini.
Supercluster OCI dengan AMD MI300X mampu menggabungkan hingga 16.384 GPU dalam satu cluster, memanfaatkan teknologi fabric jaringan ultra cepat yang sama dengan akselerator OCI lainnya. Kemampuan ini memungkinkan supercluster untuk memproses model AI yang terdiri dari ratusan miliar parameter dengan lancar.
Andrew Dieckmann, Corporate Vice President dan General Manager Bisnis GPU Data Center AMD, menekankan momentum AMD Instinct MI300X dan ROCm sebagai solusi terpercaya untuk beban kerja AI kritis di OCI. “Semakin berkembangnya solusi ini ke pasar AI yang terus bertumbuh, kombinasi keduanya akan memberikan performa tinggi, efisiensi, dan fleksibilitas desain sistem yang lebih besar bagi pelanggan OCI.”
Sebelum diluncurkan, AMD Instinct MI300X telah melalui pengujian ketat oleh OCI yang memvalidasi kemampuannya dalam inferensi dan pelatihan AI. Akselerator ini terbukti mampu menangani kasus penggunaan dengan latensi optimal, bahkan pada ukuran batch yang lebih besar, dan dapat menampung model LLM terbesar dalam satu node.
Kemampuan AMD Instinct MI300X telah memikat para pengembang model AI, termasuk Lin Qiao, CEO Fireworks AI, platform pengembangan dan penerapan AI generatif. “Kapasitas memori AMD Instinct MI300X dan perangkat lunak terbuka ROCm memungkinkan kami untuk meningkatkan skala layanan seiring dengan pertumbuhan model,” ungkap Lin Qiao.
Kolaborasi AMD dan Oracle Cloud menandai era baru dalam komputasi AI. Supercluster BM.GPU.MI300X.8 memberikan fondasi yang kuat bagi para innovator dan pengembang AI untuk mendorong batas-batas kecerdasan buatan dan menciptakan solusi inovatif yang akan membentuk masa depan.
