OpenAI mengumumkan rencana mereka untuk menyelesaikan desain prosesor AI kustom pertama dalam beberapa bulan mendatang bersama Broadcom. Prosesor ini diharapkan akan diproduksi secara massal pada 2026. Langkah ini mengikuti jejak pesaing mereka, seperti Google, Meta, dan Microsoft, dalam mengembangkan prosesor kustom untuk menekan biaya.
Prosesor AI kustom ini akan menggunakan desain systolic array, yaitu jaringan elemen pemrosesan identik yang diatur dalam baris dan kolom. Desain ini memungkinkan data untuk mengalir melalui array seperti pipa. Prosesor ini juga akan menggunakan memori HBM, meskipun belum jelas apakah OpenAI akan menggunakan HBM3E atau HBM4. OpenAI berencana untuk menggunakan proses fabrikasi N3-series dari TSMC, yang telah terbukti handal.
Kerjasama dengan Broadcom, yang akan mengintegrasikan berbagai komponen penting seperti CPU, memori, dan pengendali I/O. Tim OpenAI yang dipimpin oleh Richard Ho, mantan pekerja Google, telah berkembang menjadi 40 insinyur. Namun, mereka masih jauh lebih kecil dibandingkan tim-tim di Amazon Web Services atau Google. Untuk mencapai skala yang sama, OpenAI perlu merekrut ratusan insinyur tambahan.
Secara internal, OpenAI melihat prosesor kustom ini sebagai cara untuk meningkatkan daya tawar mereka dengan pemasok yang ada, terutama Nvidia. Jika proyek ini berhasil, mereka berencana untuk terus mengembangkan dan memperbarui prosesor ini dengan fungsionalitas yang lebih luas. Versi pertama dari prosesor ini diharapkan akan diproduksi dalam jumlah kecil untuk menjalankan inferensi pada model AI, bukan untuk melatihnya.
Mengembangkan prosesor AI berkinerja tinggi adalah usaha yang mahal. Perkiraan industri menyebutkan bahwa satu model saja bisa menghabiskan ratusan juta dolar, dengan infrastruktur pendukung yang mungkin menggandakan biaya tersebut. Namun, dengan mengembangkan lebih dari satu prosesor per platform, biaya per prosesor biasanya menurun.
Secara historis, bahkan perusahaan-perusahaan besar seperti AWS, Google, Meta, dan Microsoft mengalami kesulitan untuk menciptakan prosesor internal yang dapat mengungguli GPU Nvidia dalam hal performa. Meskipun demikian, mereka berhasil membuat prosesor yang lebih murah dengan efisiensi energi lebih tinggi yang disesuaikan dengan beban kerja mereka. Hal ini memungkinkan mereka untuk lebih dari sekadar menutupi biaya pengembangan.
Permintaan akan chip AI terus meningkat seiring dengan kebutuhan perusahaan teknologi besar akan sejumlah besar prosesor untuk melatih dan menjalankan model mereka yang semakin canggih. Meta telah mengalokasikan $60 miliar untuk infrastruktur AI tahun ini, sementara Microsoft berencana menginvestasikan $80 miliar pada 2025. OpenAI belum secara resmi mengumumkan rencana pengeluaran mereka untuk 2025, tetapi diperkirakan mereka juga akan menghabiskan puluhan miliar dolar untuk perangkat keras, perangkat lunak, dan infrastruktur.
Jika OpenAI dan Broadcom berhasil merancang prosesor kustom pertama mereka dalam beberapa bulan mendatang, mereka akan dapat memproduksi massal pada pertengahan 2026. Jika beruntung, proses deployment dapat dimulai pada paruh kedua tahun 2026.
sumber: Tomshardware
