INVESTASIMEDIA.COM — Nvidia memperkenalkan platform DSX yang diklaim mampu menambah 24 persen throughput komputasi dalam anggaran daya listrik yang sama. Langkah ini menyasar pusat data AI yang makin sulit mendapat pasokan listrik dari jaringan, sekaligus mengunci pelanggan agar tetap memakai perangkat Nvidia.
Selama ini pusat data jarang beroperasi mendekati kapasitas puncaknya. Sebuah fasilitas berdaya 100 megawatt umumnya hanya memakai sekitar 80 persen untuk beban komputasi kritis. Sisanya menganggur sebagai cadangan.
Membaca Daya Sampai ke Rak Server
Salah satu komponen DSX, yakni DSX MaxLPS, menghubungkan perangkat komputasi dengan infrastruktur fisik seperti kabinet daya, baterai, unit distribusi cairan pendingin, dan chiller. Jika semuanya bisa saling bicara, operator dapat menghemat daya secara signifikan.
Contohnya, penangan udara bisa menyesuaikan putaran berdasarkan daya yang ditarik rak server, bukan berjalan penuh terus-menerus. Tantangannya, sistem dari puluhan vendor berbeda harus memakai bahasa yang sama.
Nvidia menjembatani persoalan itu lewat DSX Exchange. Dion Harris, senior director Nvidia HPC dan AI Hyperscale Infrastructure Solutions, menyebut antarmuka itu menangkap informasi tidak hanya dari sistem inti.
"Kami bisa menangkap informasi dari penyedia lain yang siap DSX, seperti Vertiv dan Schneider Electric, dan semua sistem manajemen gedung," kata Harris.
Dalam pengujian bersama Lambda, teknologi ini memungkinkan 19 node komputasi masuk ke anggaran daya yang biasanya hanya untuk 16 node. Klaimnya, throughput seluruh klaster naik 24 persen, begitu pula performa per watt.
Melepas Beban Saat Jaringan Puncak
Komponen lain, DSX Flex, menyasar dampak pusat data terhadap jaringan listrik setempat. Nvidia bekerja sama dengan Emerald AI dan Silicon Valley Power untuk menunjukkan bagaimana kapasitas bisa dilepas saat permintaan jaringan melonjak.
Teknologi demand response sebenarnya bukan hal baru. Mekanisme ini memungkinkan perusahaan listrik meminta industri boros energi menekan konsumsi pada jam puncak. Google dan sejumlah pihak lain sudah lama menguji pendekatan serupa.
Yang ditawarkan Nvidia adalah membawa kemampuan itu ke siapa pun yang memakai perangkatnya. Tujuannya agar operator jaringan lebih berani mengalokasikan kapasitas tambahan karena tahu sebagian bisa ditarik kembali dalam waktu singkat.
"Ini memungkinkan penyedia jaringan dan pemilik saluran transmisi sedikit lebih tidak konservatif dalam mengalokasikan atau menyediakan kelebihan kapasitas," ujar Harris.
Saat kapasitas ditarik, beban kerja kritis tetap berjalan. Beban non-esensial bisa dijeda atau dipindahkan ke pusat data tetangga yang masih punya sisa daya, konsep yang kadang disebut chasing the sun.
Terbatas pada Perangkat yang Tervalidasi
DSX bekerja optimal untuk pabrik AI yang dibangun dengan perangkat tervalidasi Nvidia. Situasi jadi lebih rumit ketika akselerator pihak ketiga dari d-Matrix, SambaNova, dan lainnya masuk ke campuran.
Bagi mitra yang sudah berada di ekosistem NVLink Fusion seperti d-Matrix, Harris melihat ada jalur untuk memperluas dukungan DSX. Syaratnya, dibutuhkan integrasi perangkat lunak, dan tidak semua chip mengekspos tingkat kontrol sedetail chip Nvidia.
Untuk platform pesaing seperti GPU Instinct milik AMD, pembangun pusat data kemungkinan harus mencari sistem manajemen alternatif untuk meniru kemampuan DSX. Artinya, selain memaksimalkan kapasitas listrik yang ada, DSX menjadi tembok ekosistem baru yang menjaga pelanggan tetap membeli peralatan Nvidia.
