Nvidia baru saja mengumumkan superkomputer baru yang dapat mengubah masa depan AI. DGX GH200, dilengkapi dengan hampir 500 kali lebih banyak memori dari sistem yang kita kenal sekarang, akan segera berada di tangan Google, Meta, dan Microsoft.
Tujuannya? Melakukan revolusi pada AI generatif, sistem rekomendasi, dan pengolahan data dalam skala yang belum pernah kita lihat sebelumnya. Apakah model bahasa seperti GPT akan mengambil manfaat, dan apa artinya bagi pengguna biasa?
Deskripsi Nvidia terhadap DGX GH200 menggunakan istilah yang kebanyakan pengguna tidak pernah bertemu. “Exaflop,” misalnya, karena superkomputer ini memberikan kinerja 1 exaflop dan 144 terabyte memori bersama. Nvidia mencatat bahwa ini hampir 500 kali lebih banyak memori daripada satu sistem Nvidia DGX A100.
Mari kita kembali ke angka 1 exaflop dan memecahkannya sedikit. Satu exaflop sama dengan satu kuintiliun operasi titik mengambang per detik (FLOPs). Sebagai perbandingan, RTX 4090 Nvidia dapat mencapai sekitar 100 teraflops (TFLOPs) saat di-overclock.
Satu TFLOP sama dengan satu triliun operasi titik mengambang per detik. Perbedaannya luar biasa, tetapi tentu saja, RTX 4090 bukan GPU pusat data. DGX GH200, di sisi lain, mengintegrasikan sejumlah besar GPU kinerja tinggi ini yang tidak cocok untuk PC konsumen.
Komputer ini didukung oleh superchip Nvidia GH200 Grace Hopper. Ada 256 total, yang, berkat teknologi interkoneksi NVLink Nvidia, semuanya bisa bekerja bersama sebagai sistem yang terpadu, menciptakan satu GPU massal.
Superchip GH200 yang digunakan di sini juga tidak memerlukan koneksi PCIe tradisional antara CPU dan GPU. Nvidia mengatakan bahwa mereka sudah dilengkapi dengan CPU Nvidia Grace yang berbasis ARM serta GPU Tensor Core H100.
Nvidia juga menggunakan koneksi chip interconnetc yang canggih dengan NVLink-C2C. Sebagai hasilnya, bandwitdh antara prosesor dan kartu grafis dikatakan meningkat secara signifikan (hingga 7 kali) dan lebih hemat energi (hingga 5 kali).
Mengemas lebih dari 200 chip ini menjadi satu superkomputer yang hebat memang mengesankan, tetapi semakin baik ketika Anda mempertimbangkan bahwa sebelumnya hanya delapan GPU yang dapat digabungkan dengan NVLink pada satu waktu. Lompatan dari delapan menjadi 256 chip tentu memberi Nvidia hak untuk membanggakan.
Di mana DGX GH200 akan berakhir dan apa yang dapat ditawarkannya bagi dunia? Nvidia membangun Helios Superkomputer sendiri sebagai sarana untuk memajukan penelitian dan pengembangan AI-nya. Ini akan mencakup empat sistem DGX GH200, semuanya terhubung dengan Quantum-2 InfiniBand Nvidia. Nvidia mengharapkan komputer ini aktif pada akhir tahun ini.
Nvidia juga membagikan pengembangannya dengan dunia, dimulai dengan Google Cloud, Meta, dan Microsoft. Tujuannya sama – mengeksplorasi beban kerja AI generatif.
Ketika datang ke Google dan Microsoft, sulit untuk tidak membayangkan bahwa DGX GH200 dapat meningkatkan kemampuan Bard, ChatGPT, dan Bing Chat. Daya komputasi yang signifikan yang diberikan oleh satu sistem DGX GH200 membuatnya cocok untuk meningkatkan pelatihan model bahasa yang canggih. Sulit untuk mengatakannya dengan pasti tanpa komentar dari salah satu pihak yang berminat, tetapi kita bisa sedikit berspekulasi.
Lebih banyak daya berarti model yang lebih besar, yang berarti teks yang lebih nuansa dan akurat serta rentang data yang lebih luas untuk dilatih. Kita mungkin akan melihat pemahaman budaya yang lebih baik, lebih banyak pengetahuan tentang konteks, dan kohesi yang lebih besar. Chatbot AI yang spesialisasi juga dapat mulai muncul, lebih menggantikan manusia dalam bidang seperti teknologi.
Haruskah kita khawatir tentang penggantian pekerjaan yang mungkin terjadi, atau seharusnya kita bersemangat tentang kemajuan yang dapat dibawa oleh superkomputer ini? Jawabannya tidak mudah. Satu hal yang pasti – DGX GH200 Nvidia mungkin mengguncang dunia AI, dan Nvidia telah memperkuat kepemimpinan AI-nya dibandingkan dengan AMD sekali lagi.