Pengembangan teknologi kecerdasan buatan membutuhkan perangkat keras yang sangat mumpuni. Masalah kelangkaan memori bahkan sempat memukul industri lain seperti pasar smartphone murah. Komponen memori berkecepatan tinggi menjadi salah satu kebutuhan utama saat ini. Sayangnya biaya produksi memori tipe HBM terkenal sangat mahal di pasaran.
Masalah biaya tinggi ini coba diselesaikan oleh badan standardisasi JEDEC baru-baru ini. JEDEC resmi merilis spesifikasi teranyar yang bernama standar SPHBM4. Aturan baru ini bertujuan untuk memotong biaya memori berkecepatan tinggi tersebut. Langkah ini diharapkan bisa menekan harga perangkat pemrosesan kecerdasan buatan.
Kehadiran teknologi tersebut membawa angin segar bagi para produsen cip global. Produk memori ini menggabungkan cip HBM4 dengan metode pengemasan standar. Perbedaan utamanya terletak pada penggunaan antarmuka berukuran 512 bit saja. Ukuran ini jauh lebih kecil dari tipe konvensional yang sangat lebar.
Model terdahulu biasanya memakai jalur data sebesar 1024 bit hingga 2048 bit. Jalur antarmuka yang lebar membutuhkan ruang silikon besar pada prosesor. Hal itu juga memerlukan komponen interposer silikon yang harganya sangat menguras dompet. Pabrikan bahkan harus memakai teknologi pengemasan canggih seperti metode CoWoS dari TSMC.
Kapasitas produksi kemasan canggih semacam itu juga masih sangat terbatas sekarang. Standar SPHBM4 menawarkan solusi cerdas untuk memotong rantai produksi yang mahal itu. Teknologi ini mengganti dadu dasar HBM tradisional dengan komponen baru berkecepatan tinggi. Komponen penyangga baru tersebut mendukung jalur komunikasi data luar yang lebih sempit.
Berkat perubahan ini memori bisa dipasang langsung pada substrat organik biasa. Produsen tidak perlu lagi bergantung pada metode pengemasan yang rumit dan langka. Namun antarmuka yang lebih sempit berpotensi menurunkan performa keseluruhan memori tersebut. JEDEC mengatasinya dengan mendongkrak kecepatan transfer data secara signifikan.
Kecepatan transfer data ditingkatkan mulai dari 22,4 GT/s hingga mencapai 46,0 GT/s. SPHBM4 menggunakan 32 saluran DDR independen berukuran 16 bit yang diatur khusus. Saluran tersebut dikelompokkan ke dalam delapan bagian yang disebut Quad Channels. Secara internal tumpukan memori ini tetap mempertahankan arsitektur asli dari HBM4.
Inti memori tidak mengalami peningkatan kecepatan tetapi bagian penghubungnya bekerja lebih keras. Perubahan rancangan pada bagian dasar ini diprediksi akan sedikit menambah latensi memori. Masalah waktu tunggu ekstra ini bisa memengaruhi kinerja proses inferensi kecerdasan buatan. Namun untuk aplikasi jenis tertentu hal ini bukan menjadi kendala besar.
Arsitektur dasar HBM4 konvensional dinilai masih memimpin dalam hal efisiensi waktu tunggu. Terkait kapasitas penampungan data standar baru ini menawarkan pilihan yang sangat fleksibel. Produsen bisa membuat tumpukan memori berisi empat hingga enam belas keping dadu DRAM. Densitas yang didukung adalah sebesar 24 Gb atau hingga 32 Gb per keping.
Konfigurasi terbesar yang distandardisasi mampu menampung data hingga mencapai kapasitas 64 GB. Jumlah kapasitas maksimal tersebut ternyata sama persis dengan kemampuan milik tipe HBM4E. Masalah konsumsi daya juga diatur secara ketat dalam spesifikasi anyar JEDEC ini. Tegangan listrik untuk antarmuka luar diseragamkan pada angka 0,75 Volt oleh badan tersebut.
Ketentuan ini berbeda dengan HBM4 biasa yang membebaskan nilai tegangan kepada pihak vendor. Transfer data berkecepatan tinggi umumnya membutuhkan energi listrik yang jauh lebih boros. Untungnya pengurangan jumlah jalur kabel luar dinilai mampu menghemat pemakaian daya secara nyata. Tingkat efisiensi daya yang sebenarnya masih harus dibuktikan langsung oleh para produsen memori.
Standar baru ini menukar kerumitan manufaktur fisik dengan tantangan rekayasa sirkuit elektronik. Perusahaan raksasa seperti Micron dan SK hynix terus menggandeng TSMC untuk memproduksi komponen dasar. Di sisi lain Samsung memilih menggunakan fasilitas pabrik milik divisi mereka sendiri. Perkembangan teknologi ini juga menarik perhatian para pengembang cip dari negara Tiongkok.
Beberapa perusahaan di sana saat ini sedang terkena sanksi daftar hitam dari Amerika Serikat. Mereka tidak dapat mengakses layanan pabrik TSMC ataupun teknologi pengemasan canggih lainnya. Kehadiran memori berstruktur organik ini bisa menjadi alternatif menarik bagi industri lokal mereka. Namun mereka tetap harus menghadapi tantangan besar dalam membuat tumpukan DRAM kelas atas.
Saat ini baru tiga pabrikan besar dunia yang mampu memproduksi kepingan memori secanggih itu. SPHBM4 hadir sebagai standar yang menjanjikan untuk memperluas adopsi teknologi kecerdasan buatan. Biaya integrasi yang lebih murah menjadi daya tarik utama bagi industri ramah anggaran. Meskipun demikian tipe HBM4 biasa diprediksi tetap memegang takhta performa tertinggi di pasar.
Sumber: Tomshardware
