Chip AI NVidia Blackwell B200 dan GB200 Terkencang di Dunia

Rabu 20 Mar 2024 - 12:00 WIB
Reporter : Eris Munandar
Editor : Eris Munandar

2000 GPU Blackwell dapat melakukan hal yang sama dengan konsumsi daya 4 megawatt, dibandingkan dengan 8000 GPU Hopper yang membutuhkan 15 megawatt.

GB200:

Merupakan kolaborasi gabungan antara B200.

30x lebih cepat dalam komputasi LLM.

25x lebih hemat energi dibandingkan H100.

7x lebih kencang dibandingkan H100 dengan LLM GPT-3 175 miliar parameter.

Memiliki komputasi, bandwidth, dan ukuran model dua kali lebih besar.

Kemampuan luar biasa Blackwell B200 dan GB200 menarik perhatian perusahaan teknologi besar, seperti Google, Microsoft, Amazon, dan Oracle. Mereka berencana untuk menawarkan rak NVL72 di layanan cloud servicenya.

Blackwell B200 dan GB200 dirancang untuk dioperasikan dalam jumlah besar. Jaringan 800Gbps akan menghubungkan hingga puluhan ribu chip GB200, melalui Quantum-X800 InfiniBand (hingga 144 sambungan) atau Spectrum-x800 ethernet (hingga 64 sambungan).

Peluncuran Blackwell B200 dan GB200 menandakan kemajuan signifikan dalam teknologi AI. Chip ini memungkinkan berbagai aplikasi AI yang lebih canggih dan efisien, seperti:

Pengenalan gambar dan video yang lebih akurat.

Penerjemahan bahasa yang lebih cepat dan tepat.

Pemrosesan bahasa alami yang lebih baik.

Pengembangan obat dan bahan yang lebih efisien.

Blackwell B200 dan GB200 merupakan terobosan baru dalam dunia AI dan membuka peluang baru untuk berbagai industri.

Kategori :