Halo, sahabat Brainy!
Di acara "Vision 2024", Intel mengumumkan sejumlah inisiatif perangkat keras dan perangkat lunak untuk memajukan teknologi AI mereka.
Akselerator Gaudi 3 untuk Pelatihan dan Inferensi AI
Intel Gaudi 3 adalah akselerator AI generasi terbaru yang menghadirkan banyak peningkatan dibandingkan pendahulunya:
- Proses manufaktur 5nm yang lebih canggih
- 64 Tensor Processor Cores Gen ke-5
- 8 Matrix Math Engines
- Peningkatan bandwidth jaringan dan memori
- SRAM cache 96MB dengan bandwidth 12,8TB/s
- Memori HBM2e 128GB dengan bandwidth puncak 3,7TB/s
- Port Ethernet RoCE 200Gb 24 buah
Dengan spesifikasi tersebut, Intel mengklaim Gaudi 3 menawarkan:
- Peningkatan kinerja inferensi rata-rata 50%
- Peningkatan efisiensi daya sekitar 40%
- Biaya yang lebih terjangkau dibandingkan pesaing
Fleksibilitas dan Skalabilitas Gaudi 3
Gaudi 3 tersedia dalam berbagai faktor bentuk seperti kartu mezzanine, kartu PCIe add-in, dan sistem berdasarkan base board universal x8. Konfigurasi ini memungkinkan mitra untuk menyesuaikan sistem sesuai kebutuhan, dari 1 node hingga cluster 1024 node dengan hingga 8.192 akselerator.
Xeon 6: Prosesor Baru untuk Edge dan Cloud
Intel juga mengumumkan keluarga prosesor Xeon 6 baru yang menargetkan edge dan cloud. Terdiri dari dua arsitektur, Sierra Forest (berbasis core E yang hemat daya) dan Granite Rapids (berbasis core P yang berkinerja tinggi), prosesor ini menawarkan:
- Peningkatan kinerja per watt 2,4x untuk Sierra Forest
- Kepadatan rak 2,7x lebih tinggi untuk Sierra Forest
- Dukungan perangkat lunak untuk format data MXFP4 untuk Granite Rapids, mengurangi latensi token hingga 6,5x
Peta Jalan AI Intel
Gaudi 3 akan tersedia untuk OEM pada kuartal kedua tahun ini dengan produksi massal pada kuartal ketiga (berpendingin udara) dan kuartal keempat (berpendingin cairan). Intel juga sedang mengerjakan Gaudi generasi berikutnya, tetapi detailnya belum diungkapkan.
Sahabat, inovasi Intel ini menandakan komitmen mereka terhadap AI di segmen perusahaan. Dengan peningkatan kinerja dan efisiensi, serta dukungan perangkat lunak yang komprehensif, Intel siap untuk memperluas pangsa pasar AI perusahaan mereka.
Tetap ikuti perkembangan teknologi terbaru bersama Brainy Buddy!
