Tiga langkah baru dari Samsung, Kioxia, dan Peak:AIO menunjukkan satu hal yang sama: infrastruktur AI sedang dikejar dari banyak sisi sekaligus. Bukan hanya GPU yang dituntut lebih kencang, tetapi juga memori, storage, dan lapisan metadata yang menjaga aliran data tetap stabil.
Di tengah beban kerja AI yang makin berat, setiap lapisan rantai data ikut menjadi penentu. Karena itu, kabar terbaru dari tiga pemain ini menarik perhatian, mulai dari sampel HBM4E Samsung hingga server metadata open-source yang dirancang untuk skala besar.
Samsung dorong HBM4E ke tahap pengujian pelanggan
Samsung mengatakan telah mulai mengirim sampel HBM4E 12-layer ke pelanggan global utama. Langkah ini datang setelah perusahaan memulai produksi massal HBM4 lebih awal tahun ini, sehingga generasi berikutnya langsung masuk ke fase evaluasi pelanggan.
HBM atau High Bandwidth Memory dipakai bersama GPU dan prosesor domain-specific dalam arsitektur chiplet untuk mendukung pelatihan dan inferensi AI. Samsung menyebut HBM4E punya kecepatan pin stabil 14 gigabit per detik dan bisa ditingkatkan sampai 16Gbps.
Perusahaan juga menyatakan bandwidth per stack dapat mencapai 3,6 terabyte per detik, atau lebih dari 20 persen di atas HBM4. Pada varian 12-layer, kapasitas 48GB disebut naik lebih dari 30 persen dibanding generasi sebelumnya.
Samsung menyiapkan pula perluasan ke 32GB dengan 8-layer dan 64GB dengan 16-layer. Langkah ini mengikuti kebutuhan pelanggan yang berbeda-beda, dari kapasitas lebih ringkas sampai konfigurasi yang lebih besar.
Konteks pasarnya juga mendukung dorongan tersebut. Samsung menyebut permintaan HBM masih tinggi, sementara kapasitas produksi belum mencukupi, sehingga harga tetap tinggi dan pengguna besar seperti hyperscale data center mengandalkan kontrak jangka panjang untuk mengamankan pasokan.
Kioxia bawa SSD untuk data center dan ruang angkasa
Di ajang HPE Discover, Kioxia akan menyoroti penggunaan SSD mereka untuk komputasi di darat dan berbasis luar angkasa. Perusahaan juga akan menampilkan produk PCIe 5.0 Enterprise dan Datacenter, EDSFF, serta 24G SAS atau SAS-4.
Kioxia menyebut lini itu menawarkan performa lebih tinggi, densitas penyimpanan lebih besar, dan efisiensi daya yang lebih baik dibanding generasi sebelumnya. SSD Kioxia juga sudah dipakai pada berbagai platform HPE, mulai dari server enterprise, digital storage, mobile computing, hingga lingkungan modern data center.
Yang membuat pendekatan ini menonjol adalah keterlibatannya dalam Spaceborne Computing milik HPE. Proyek itu mencakup International Space Station dan rencana eksplorasi bulan di masa depan.
Di sini, storage enterprise tidak lagi hanya dinilai dari cepat atau tidaknya akses data. Ketahanan operasional dalam kondisi ekstrem juga ikut menjadi ukuran, dan penggunaan SSD di ISS memperlihatkan bagaimana standar pusat data dibawa ke luar bumi.
Peak:AIO dan Los Alamos angkat metadata sebagai lapisan kritis
Di ranah perangkat lunak storage, Peak:AIO dan Los Alamos National Laboratory meluncurkan Lattice pada konferensi IEEE International Conference on Massive Storage Systems and Technology. Lattice adalah server metadata pNFS open-source yang dibangun untuk mengatasi salah satu hambatan paling persisten di infrastruktur AI dan high-performance computing.
Peak:AIO menilai beban kerja AI kini menuntut akses paralel yang sangat cepat ke dataset besar secara terus-menerus dan andal. Menurut perusahaan, komputasi GPU memang berkembang pesat, tetapi lapisan storage yang memberi makan GPU, terutama arsitektur metadata yang mengoordinasikannya, belum mengejar laju yang sama.
Perusahaan juga mengutip angka rata-rata utilisasi GPU sebesar 5 persen di 23.000 production cluster dari Cast AI. Masalahnya, menurut Peak:AIO, bukan pada hardware GPU, melainkan pada software yang tidak mampu mengikuti kebutuhan data di belakangnya.
Lattice dibangun sebagai metadata server berbasis Linux di user space yang menekankan skala, modularitas, dan koordinasi terdistribusi. Proyek ini bersifat open-source, didukung komunitas, dan diluncurkan di bawah Linux Foundation.
Arsitekturnya membagi control plane metadata ke dalam empat lapisan: Protocol State Plane, Lattice Core, MD Catalog Authority, dan Data Server Control Plane. Desain ini membuat layanan metadata bisa bersifat elastis, berjalan di hardware komoditas, dan tumbuh dari satu server hingga lebih dari 1.000 metadata server.
Jika Samsung menekan batas kecepatan memori dan Kioxia mendorong storage ke data center serta ruang angkasa, Peak:AIO dan Los Alamos menyoroti sisi lain dari rantai data yang kerap terlupakan. Lapisan metadata kini ikut menentukan apakah infrastruktur AI benar-benar bisa memanfaatkan seluruh daya komputasi yang sudah dipasang.