Google Luncurkan Superkomputer AI Didukung Nvidia H100 GPU

Google memulai Google I/O sore ini dengan membicarakan selama lebih dari satu jam tentang kemajuan mereka dalam kecerdasan buatan (AI). Perusahaan tersebut membahas model bahasa besar (LLM) PaLM 2 untuk AI generative, yang menggerakkan alat obrolan Bard. Ini adalah pilar dasar untuk menambahkan fitur berbasis AI di seluruh portofolio produk Google, termasuk Google Maps, Google Photos, dan Gmail (di antara lain).

Dalam hal ini, dibutuhkan daya komputasi yang serius di cloud untuk menggerakkan model secara real-time, karena jutaan (dan pada akhirnya miliaran) pengguna mengirim permintaan untuk operasi sepele seperti menghapus orang yang berada di belakang gambar atau menyusun seluruh email untukmu berdasarkan teks pendek.

google 1

Itulah tempat fokus Google pada superkomputer GPU A3 yang baru. Google mengatakan superkomputer baru A3 “dibangun khusus untuk melatih dan memenuhi model AI yang paling menuntut yang menggerakkan inovasi AI generative dan model bahasa besar saat ini” sambil menghasilkan 26 exaFlops kinerja AI.

Setiap superkomputer A3 dilengkapi dengan prosesor Intel Xeon Scalable generasi keempat yang didukung oleh 2TB memori DDR5-4800. Tetapi “otak” sesungguhnya dari operasi tersebut berasal dari delapan unit pemrosesan grafis (GPU) Nvidia H100 “Hopper”, yang memiliki akses ke 3,6 TBps bandwidth bisectional dengan memanfaatkan NVLink 4.0 dan NVSwitch.

Menurut Google, A3 adalah representasi penyebaran tingkat produksi pertama dari antarmuka data GPU-to-GPU, yang memungkinkan berbagi data pada 200 Gbps sambil menghindari CPU host. Antarmuka ini, yang disebut Google sebagai Unit Pemrosesan Infrastruktur (IPU), menghasilkan peningkatan 10x dalam bandwidth jaringan yang tersedia untuk mesin virtual (VM) A3 dibandingkan dengan VM A2.

“Ian Buck, VP untuk hyperscale dan komputasi berkinerja tinggi di NVIDIA, mengatakan, “VM A3 Google Cloud, yang didukung oleh GPU NVIDIA generasi berikutnya H100, akan mempercepat pelatihan dan pelayanan aplikasi AI generative”.

“Setelah Google Cloud baru-baru ini meluncurkan instansi G2, kami bangga untuk terus bekerja dengan Google Cloud untuk membantu mengubah perusahaan di seluruh dunia dengan infrastruktur AI yang dibangun khusus.”

Jika bisnis Anda ingin memanfaatkan mesin virtual A3, satu-satunya cara untuk mendapatkan akses adalah dengan mengisi Formulir Minat Pratinjau A3 Google untuk bergabung dengan Program Akses Awal. Tetapi seperti yang dinyatakan Google, memasukkan informasi Anda tidak menjamin tempat di program tersebut.

Tren AI semakin berkembang dan menjadi lebih terintegrasi dengan kehidupan kita, mulai dari mobil otonom hingga chatbot dan asisten virtual. Google memperkenalkan superkomputer AI baru A3 yang akan memenuhi kebutuhan AI yang semakin meningkat.

Google memperkenalkan A3 GPU superkomputer baru

Google memperkenalkan superkomputer baru A3 dengan GPU Nvidia H100 yang akan menghasilkan 26 exaFlops kinerja AI. Komputer tersebut memiliki bisectional bandwidth 3,6 TBps dan dilengkapi dengan prosesor Intel Xeon Scalable generasi keempat yang didukung oleh 2TB memori DDR5-4800.

A3 adalah representasi penyebaran tingkat produksi pertama dari antarmuka data GPU-to-GPU

Antarmuka data GPU-to-GPU memungkinkan berbagi data pada 200 Gbps sambil menghindari CPU host. Antarmuka ini, yang disebut Google sebagai Unit Pemrosesan Infrastruktur (IPU), menghasilkan peningkatan 10x dalam bandwidth jaringan yang tersedia untuk mesin virtual (VM) A3 dibandingkan dengan VM A2.

Mesin virtual A3 hanya tersedia melalui Early Access Programme

Mesin virtual A3 hanya tersedia melalui Program Akses Awal. Tren AI semakin berkembang dan menjadi lebih terintegrasi dengan kehidupan kita, dan Google meluncurkan superkomputer AI baru A3 untuk memenuhi permintaan AI yang semakin meningkat.

Dalam kesimpulannya, Google memperkenalkan superkomputer AI baru A3 yang dapat memenuhi kebutuhan AI yang semakin berkembang. A3 menggunakan GPU H100 Nvidia yang menghasilkan 26 exaFlops kinerja AI dan memiliki antarmuka data GPU-to-GPU. A3 hanya tersedia melalui Program Akses Awal. Dengan peluncuran superkomputer AI baru ini, Google memperkuat posisinya sebagai salah satu pemain utama di ruang AI.