Prosesor Intel Xeon 6 dan akselerator AI Gaudi 3 diluncurkan dengan kemampuan menangani beban kerja AI tingkat lanjut

Intel baru-baru ini meluncurkan perangkat keras baru yang berfokus pada peningkatan alur kerja kecerdasan buatan (AI). Perusahaan memperkenalkan prosesor Xeon 6 dengan inti kinerja baru (P-core) dan Gaudi 3 AI Accelerator kepada pelanggan perusahaan dan pusat data pada hari Selasa. Pembuat chip tersebut mengklaim bahwa perangkat baru ini akan memberikan throughput yang lebih tinggi dan optimalisasi biaya yang lebih baik untuk memungkinkan kinerja per watt yang optimal dan total biaya kepemilikan yang lebih rendah. Perangkat ini diluncurkan untuk memungkinkan organisasi menangani tuntutan beban kerja yang terus meningkat dari model AI yang lebih canggih, menurut pembuat chip tersebut.

Prosesor Intel Xeon 6 diluncurkan

Pembuat chip Dia bilang Intel Xeon 6 baru dilengkapi dengan inti kinerja. Prosesor ini tidak ditujukan untuk konsumen ritel, dan sebagai gantinya akan mendukung pusat data perusahaan untuk membantu mereka menjalankan server cloud.

Intel mengklaim bahwa prosesor Xeon 6 memberikan kinerja dua kali lipat dari pendahulunya karena peningkatan jumlah inti. Ia juga menawarkan bandwidth memori dua kali lipat dan kemampuan akselerasi AI.

Karena ini adalah akselerasi berbasis perangkat keras, ia dapat dengan mudah mengaktifkan dukungan untuk model bahasa yang sangat besar (LLM). Hal ini dapat “memenuhi persyaratan kinerja AI dari edge hingga pusat data dan lingkungan cloud,” menurut Intel.

Intel memperkenalkan akselerator kecerdasan buatan Gaudi 3

Gaudi 3 adalah akselerator AI generasi baru dari Intel. Mereka adalah chip perangkat keras khusus yang dirancang untuk membantu mesin mempercepat tugas-tugas kecerdasan buatan, terutama yang terkait dengan pembelajaran mendalam, pembelajaran mesin, dan jaringan saraf. Ini termasuk unit pemrosesan grafis, sirkuit terintegrasi khusus aplikasi (ASIC), array gerbang yang dapat diprogram di lapangan (FPGA), dan unit pemrosesan saraf (NPU).

Gaudi 3 AI Accelerator dilengkapi 64 inti prosesor Tensor dan delapan Mesin Pengganda Matriks (MME) yang dirancang untuk mempercepat komputasi jaringan saraf dalam. Ini memiliki memori HBM2e 128GB untuk pelatihan dan inferensi, dan 24 port Ethernet 200GB yang memungkinkan penskalaan server.

Akselerator AI baru dari Intel kompatibel dengan kerangka kerja PyTorch serta model pengurai dan pengurai Hugging Face yang canggih. Perusahaan telah berkolaborasi dengan IBM untuk menerapkan Gaudi 3 untuk IBM Clouds. Dell Technologies juga menggunakan infrastruktur pusat datanya sendiri.