Nvidia terus mengukir prestasi baru dalam dunia teknologi dengan memperkenalkan dua inovasi terbaru mereka, yaitu GPU Blackwell B200 dan superchip GB200. Kedua produk ini menandai langkah maju Nvidia dalam menghadirkan teknologi AI yang lebih canggih dan efisien.
Kekuatan Super GPU Blackwell B200
Nvidia mengklaim bahwa GPU Blackwell B200 mampu memberikan kekuatan hingga 20 petaflops dari 208 miliar transistor yang dimilikinya. Ini merupakan lonjatan yang signifikan dari kemampuan chip sebelumnya. Selain itu, GPU ini juga diklaim mampu memberikan kinerja 30 kali lipat untuk beban kerja inferensi LLM sambil tetap efisien dalam penggunaan energi. Nvidia mengatakan bahwa penggunaan GPU Blackwell B200 dapat mengurangi biaya dan konsumsi energi hingga 25 kali lipat dibandingkan dengan penggunaan chip sebelumnya, H100.
(Ilustrasi GPU Blackwell B200. Sumber foto Nvidia)
Performa Pelatihan Model AI
Salah satu pencapaian menonjol dari GPU Blackwell adalah kemampuannya dalam melatih model AI yang besar. Nvidia menyebutkan bahwa melatih model dengan 1,8 triliun parameter sebelumnya memerlukan 8.000 GPU Hopper dan 15 megawatt daya. Namun, dengan GPU Blackwell, Nvidia mengklaim bahwa hal tersebut dapat dilakukan hanya dengan menggunakan 2.000 GPU Blackwell dan konsumsi daya empat megawatt saja. Ini menunjukkan peningkatan signifikan dalam efisiensi energi.
GPU Blackwell juga dilengkapi dengan fitur transformer generasi kedua yang menggandakan komputasi, bandwidth, dan ukuran model dengan menggunakan empat bit untuk setiap neuron daripada delapan. Hal ini menghasilkan kekuatan 20 petaflops yang sangat impresif dalam mengolah data.
Switch NVLink Generasi Berikutnya
Nvidia juga memperkenalkan switch NVLink generasi berikutnya yang memungkinkan 576 GPU berkomunikasi satu sama lain dengan bandwidth 1,8 terabyte per detik secara bidirectional. Ini merupakan terobosan besar dalam meningkatkan kinerja dan efisiensi komunikasi antar GPU.
Selain memperkenalkan GPU Blackwell dalam bentuk chip, Nvidia juga menyajikannya dalam solusi terpadu yang lebih besar. NVL72 GB200 adalah salah satu contohnya, yang menyambungkan 36 CPU dan 72 GPU ke dalam satu rak yang didinginkan cairan. Solusi ini menawarkan total kinerja pelatihan AI sebesar 720 petaflops atau 1,440 petaflops inferensi. Ini menunjukkan komitmen Nvidia dalam menghadirkan solusi AI yang inovatif dan efisien bagi berbagai industri.
