Tiga perusahaan terkemuka dalam bidang teknologi, Dell Technologies, Hewlett Packard Enterprise, dan Lenovo, telah diumumkan oleh NVIDIA sebagai mitra pertama yang akan mengintegrasikan teknologi jaringan Ethernet NVIDIA Spectrum-X khusus untuk kebutuhan AI generatif di dalam server-server mereka. Langkah ini bertujuan untuk membantu pelanggan perusahaan dalam mempercepat beban kerja AI generatif yang semakin meningkat.
NVIDIA Spectrum-X, yang dirancang secara khusus untuk AI generatif, menawarkan jaringan Ethernet berkualitas tinggi yang dapat meningkatkan kinerja komunikasi AI hingga 1,6x lipat dibandingkan dengan solusi Ethernet tradisional. Sistem terbaru yang dihasilkan dari kolaborasi antara ketiga perusahaan pembuat sistem ini menggabungkan Spectrum-X dengan GPU NVIDIA Tensor Core, perangkat lunak NVIDIA AI Enterprise, dan perangkat lunak NVIDIA AI Workbench. Hal ini memberikan dasar yang kuat bagi perusahaan-perusahaan untuk melakukan transformasi bisnis mereka dengan menggunakan AI generatif.
Menurut Jensen Huang, pendiri dan CEO NVIDIA, AI generatif dan komputasi yang dipercepat mendorong transisi generasi ketika perusahaan meningkatkan pusat data mereka untuk melayani beban kerja ini. Huang juga menekankan bahwa jaringan yang dipercepat merupakan katalisator untuk gelombang sistem baru dari mitra produsen server terkemuka NVIDIA, yang bertujuan untuk mempercepat peralihan ke era AI generatif.
CEO Dell Technologies, Michael Dell, menyatakan bahwa komputasi dan jaringan yang dipercepat sangat penting dalam membangun sistem yang mampu mengakomodasi permintaan akan model bahasa besar dan aplikasi AI generatif. Melalui kolaborasi dengan NVIDIA, Dell Technologies berkomitmen untuk menyediakan infrastruktur dan perangkat lunak yang diperlukan agar pelanggan dapat mengambil manfaat dari data mereka dengan cepat dan aman.
Antonio Neri, presiden dan CEO HPE, mengungkapkan bahwa aplikasi baru yang kuat seperti AI generatif membutuhkan arsitektur yang berbeda secara fundamental untuk mendukung berbagai beban kerja yang dinamis. HPE bermitra dengan NVIDIA untuk membangun sistem yang memberikan daya, efisiensi, dan skalabilitas yang diperlukan guna mendukung aplikasi-aplikasi inovatif ini.
Dalam pandangan Yuanqing Yang, ketua dan CEO Lenovo, AI generatif memiliki potensi untuk menghasilkan transformasi yang belum pernah terjadi sebelumnya di berbagai industri. Namun, untuk mendukung aplikasi AI modern, dibutuhkan infrastruktur yang efisien dan terakselerasi dalam hal jaringan, komputasi, dan perangkat lunak. Melalui kerjasama dengan NVIDIA, Lenovo berusaha membangun sistem yang mampu memenuhi kebutuhan tersebut.
Spectrum-X, yang dirancang khusus untuk mempercepat beban kerja AI, menggabungkan performa tinggi dari switch Ethernet Spectrum-4, NVIDIA BlueField-3 SuperNIC, serta perangkat lunak akselerasi. Teknologi ini menyokong DPU BlueField-3, platform komputasi infrastruktur yang sangat canggih. Spectrum-4 merupakan switch Ethernet 51Tb/dtk pertama di dunia untuk AI, memberikan efisiensi throughput data dalam skala besar dan pada beban yang padat, sambil meminimalkan kemacetan jaringan.
BlueField-3 SuperNIC, yang didesain untuk komputasi paralel masif yang memerlukan intensitas jaringan tinggi, menawarkan konektivitas jaringan RDMA hingga 400 Gb/s melalui Converged Ethernet (RoCE) antara server GPU, meningkatkan kinerja pelatihan AI dan lalu lintas inferensi pada jaringan timur-barat di dalam gugus. Selain itu, SuperNIC memungkinkan lingkungan pusat data multi-penyewa yang aman dan menjamin kinerja yang deterministik dan terisolasi di antara pekerjaan penyewa. Perangkat lunak akselerasi yang mendukung Spectrum-X dilengkapi dengan beragam perangkat pengembangan perangkat lunak NVIDIA dan kerangka perangkat lunak NVIDIA DOCA.
NVIDIA AI Enterprise dan NVIDIA AI Workbench juga diperkenalkan sebagai bagian dari kerangka kerja yang menyediakan model terlatih dan alat pengembangan untuk AI produksi yang aman, stabil, dan didukung. NVIDIA AI Workbench memungkinkan pengembang untuk membuat, menguji, dan menyesuaikan model AI generatif yang telah dilatih sebelumnya di PC atau stasiun kerja, lalu mengukirkannya ke hampir semua pusat data atau cloud.
Selain itu, Spectrum-X juga memberdayakan superkomputer NVIDIA Israel-1, yang merupakan arsitektur referensi untuk sistem AI generasi berikutnya. Kolaborasi ini dengan Dell Technologies menggunakan server Dell PowerEdge XE9680, yang didukung oleh platform delapan GPU NVIDIA HGX H100 dan DPU BlueField-3 serta SuperNIC dengan sakelar Spectrum-4. Sistem baru dari Dell, HPE, dan Lenovo yang menampilkan tumpukan NVIDIA AI lengkap diharapkan akan tersedia pada kuartal pertama tahun depan.
