NVIDIA Kembangkan Chip Flagship Terbaru, H200

NVIDIA menambahkan fitur-fitur baru yang mengadopsi kecerdasan buatan atau artificial intelligence (AI) ke dalam chip terbaiknya, yang disebut-sebut akan menyalip chip H100 teratas NVIDIA saat ini. H200, demikian sebutan chip generasi baru tersebut.

Mereka mengatakan, penawaran atas produk baru tersebut akan mulai diluncurkan tahun depan. NVIDIA juga menyebut, Amazon Web Services, Google Cloud, Microsoft Azure dan Oracle Cloud Infrastructure akan menjadi salah satu penyedia layanan cloud pertama yang menawarkan akses ke chip H200, selain penyedia cloud AI khusus CoreWeave, Lambda dan Vultr.

NVIDIA mendominasi pasar chip AI, mendukung layanan ChatGPT OpenAI, dan banyak layanan AI generatif serupa yang merespons pertanyaan dengan tulisan mirip manusia.

Peningkatan utama yang diberikan kepada H200 adalah memori dengan bandwidth yang lebih tinggi, salah satu bagian chip yang paling mahal, yang menentukan berapa banyak data yang dapat diproses dengan cepat.

H200 memiliki memori bandwidth tinggi sebesar 141 gigabyte, naik dari 80 gigabyte pada H100 sebelumnya.

"Penambahan memori bandwidth tinggi dan koneksi yang lebih cepat ke elemen pemrosesan chip, berarti bahwa layanan tersebut akan mampu memberikan jawaban lebih cepat," ungkap Reuters, yang dilansir Selasa (14/11/2023).

NVIDIA tidak mengungkapkan pemasoknya untuk memori pada chip baru tersebut. Tetapi coba kalau kita ingat-ingat pada September 2023, Micron Technology mengatakan mereka sedang berupaya untuk menjadi pemasok NVIDIA.

Selain itu, NVIDIA juga membeli memori dari SK Hynix Korea, perusahaan yang pada Oktober 2023 mengatakan bahwa chip AI membantu menghidupkan kembali penjualan.

Jadi, belum diketahui betul siapa pemasok memori untuk H200.

Vice president NVIDIA, Ian Buck, menjelaskan ketika H200 digunakan untuk model yang menjalankan GPT-3, maka GPU Tensor Core NVIDIA H200 memberikan peningkatan kinerja 18x dibandingkan akselerator generasi sebelumnya.

Di antara tolok ukur AI generatif lainnya, H200 mencapai 12.000 token per detik pada model bahasa besar (LLM) Llama2-13B.

"Komputasi yang dipercepat adalah komputasi yang berkelanjutan," kata Buck, dalam sebuah pernyataan.

"Dengan memanfaatkan kekuatan komputasi yang dipercepat dan AI generatif, bersama-sama kita dapat mendorong inovasi di seluruh industri sekaligus mengurangi dampak terhadap lingkungan," lanjut dia.

Kabar H200 ini cukup menggambarkan ketegangan persaingan chip NVIDIA di antara banyak produsen chip dunia. Terutama, mengingat NVIDIA tidak ingin kehilangan akses pasar chip AI mereka di China. Urusan teknologi, China memang pasar besar untuk beragam merek, tak terkecuali NVIDIA.

Diketahui, perusahaan juga tengah mengembangkan tiga chip AI baru yang khusus dibuat untuk konsumen China, yang tidak melanggar pembatasan ekspor terbaru pemerintah Amerika Serikat (AS).

Tahun lalu, pemerintah AS memberi tahu NVIDIA bahwa mereka akan membatasi ekspor chip komputer yang ditujukan untuk superkomputer dan aplikasi kecerdasan buatan ke Rusia dan China. Alasannya, karena kekhawatiran bahwa komponen tersebut dapat digunakan untuk tujuan militer.

Engadget mengungkap, aturan tersebut menghalangi NVIDIA untuk menjual chip A100 dan H100 tertentu di negara tersebut, sehingga NVIDIA merancang chip A800 dan H800 khusus untuk pasar China.

Namun, ternyata pemerintah AS baru-baru ini mengeluarkan serangkaian pembatasan terbaru. Dalam aturan itu, mereka membatasi seberapa besar daya komputasi yang dapat dimiliki sebuah chip, ketika chip tersebut dimaksudkan untuk diekspor ke negara-negara yang disebutkan tadi. Dan chip A800 dan H800 tidak lagi memenuhi syarat untuk diekspor berdasarkan aturan baru, termasuk GPU konsumen RTX 4090 yang terbaik.