Jakarta –
Read More : Sikat! Camilan Wafer-Coklat di Transmart Full Day Sale Diskon Jadi Murah Meriah
Intel memamerkan akselerator AI terbarunya, Gaudi 3, yang diklaim memiliki performa 50% lebih baik dibandingkan Nvidia H100.
Gaudi 3 sebelumnya diperkenalkan pada acara Intel AI Everywhere pada bulan Desember 2023 dan dipamerkan pada konferensi Vision 2024 di Phoenix, Arizona, AS.
Saat itu, CEO Intel Pat Gelsinger memperkirakan Gaudi 3 akan menjadi pesaing tangguh chip AI Nvidia dan AMD. Gaudi 3 adalah penerus Gaudi 2, dibuat dengan dua chip TSMC 5nm dan menampilkan 64 inti Tensor generasi ke-5.
Menurut DetikINET dari Techspot, Kamis (11/4/2024), kapasitas memori HBM2e mencapai 128 GB dengan kecepatan 3,7 Gbps dan bandwidth 3,7 TB per detik.
Dibandingkan Gaudi 2, peningkatan ini signifikan karena chip generasi sebelumnya hanya memiliki 24 inti Tensor, memori HBM2e 96 GB dengan kecepatan 3,27 Gbps, dan bandwidth 2,45 TB per detik. Gaudi 3 juga tersedia dalam model SRAM 96 GB dan bandwidth 12,8 TB/s.
Fitur penting lainnya termasuk kapasitas VRAM 128 GB, kapasitas komputasi matriks 1.835 TFLOPS FP8 dan BF16, serta konsumsi daya 900 watt. Sebagai perbandingan, Gaudi 2 memiliki VRAM 96 GB, Matrix FP8 memiliki 835 TFLOPS, Matrix BF16 memiliki 432 TFLOPS dan konsumsi daya hanya 600 W.
Gaudi 3 juga dilengkapi dengan 24 port Ethernet 200Gb agar lebih fleksibel dan mendukung standar jaringan terbuka. Dukungan PCIe juga tersedia untuk berbagai kebutuhan, termasuk recovery enhancement generation (RAG).
Menurut Intel, Gaudi 3 memiliki kemampuan komputasi AI 4x lebih cepat, bandwidth memori 1,5x lebih tinggi, dan bandwidth jaringan 2x lebih tinggi dibandingkan pendahulunya BF16; Hal ini membuatnya cocok untuk “melatih” kecerdasan buatan generatif (GenAI).
Sementara itu, Intel mengklaim dibandingkan Nvidia H100, chip AI terbarunya 50% lebih cepat saat digunakan untuk komputasi Llama2 7B dan 13B, serta format parameter GPT-3 175B. Selain lebih cepat, konsumsi energinya 40% lebih hemat pada parameter yang sama.
Saat ini Gaudi 3 sudah mulai mengirimkan sampel chip ke mitra Intel, dan produksi massal rencananya akan dimulai pada paruh kedua tahun ini. Gaudi 3 berpendingin udara akan mulai dikirimkan pada kuartal ke-3 tahun 2024, sedangkan model baru berpendingin air akan tersedia pada kuartal ke-4 tahun 2024.
Tonton video “Intel berencana memperluas industri otomotif melalui AI” (asj/asj).