Gaudi 3 — bước tiến mới của Intel trong thị trường tăng tốc AI

Tác giả Sudo Ecommerce 13/11/2025 4 phút đọc

Intel vừa công bố chi tiết về Gaudi 3, bộ tăng tốc AI thế hệ thứ ba của hãng, trong sự kiện Vision 2024. Gaudi 3 được thiết kế theo kiến trúc chiplet kép, trang bị 128 GB bộ nhớ HBM2E với băng thông lên đến 3,7 TB/s, và 96 MB cache SRAM nội bộ. Với 64 tensor processing cores (TPCs) và 8 matrix math engines (MMEs), Gaudi 3 hỗ trợ nhiều định dạng tính toán như FP8, BF16, FP16, TF32 và FP32. Intel cho biết Gaudi 3 mang lại hiệu năng training cao gấp khoảng 1,7×, hiệu suất inference cao hơn 50%, và hiệu quả năng lượng tốt hơn so với Gaudi 2 hoặc GPU cạnh tranh như H100.

Ngoài ra, Gaudi 3 tích hợp 24 giao diện networking 200 GbE (Ethernet/RDMA) và 14 engine xử lý media như H.265, JPEG để hỗ trợ các tác vụ xử lý hình ảnh và video trong môi trường AI. Hệ thống này được thiết kế để dễ mở rộng khi kết nối nhiều Gaudi trong cụm server: Gaudi 3 có khả năng tích hợp theo mô đun OAM hoặc card PCIe. Hệ thống OAM (OCP Accelerator Module) loại HL-325L hỗ trợ TDP 900 W, trong khi phiên bản PCIe được dự kiến TDP 600 W.

2.227

Intel đặt mục tiêu đưa Gaudi 3 vào sản xuất hàng loạt từ quý 3 năm 2024, với các hệ thống dựa trên Gaudi 3 sẽ được cung cấp từ các OEM như Dell, HPE, Supermicro và Lenovo. Đầu năm 2024, Intel đã từng giới thiệu Gaudi 3 – cho biết hiệu năng BF16 tăng gấp 4 lần, tăng băng thông mạng gấp 2 so với Gaudi 2.

Về giá, Intel công bố chi phí cho 8 Gaudi 3 đặt trên một baseboard là khoảng 125.000USD, tức khoảng 15.650 USD mỗi Gaudi, tức một phần nhỏ so với giá các GPU AI cao cấp khác. Với mức giá này, Gaudi 3 cạnh tranh mạnh mẽ ở khía cạnh chi phí sở hữu lõi (TCO).

Tuy nhiên, dù phần cứng rất ấn tượng, Intel thừa nhận phần mềm Gaudi 3 chưa hoàn thiện và điều này đã ảnh hưởng đến khả năng đạt mục tiêu doanh thu 500 triệu USD trong năm đầu ra mắt. Phần mềm nền tảng AI và hệ sinh thái tích hợp vẫn là thách thức lớn để Gaudi 3 được chấp nhận rộng rãi.

Tương lai của Gaudi 3 được gắn liền với thế hệ tiếp theo của Intel là Falcon Shores, nơi Intel sẽ kết hợp chip CPU và GPU/AI vào mô đun hợp nhất. Canva Shores dự định tận dụng bài học từ Gaudi để phát triển một kiến trúc hỗ trợ hiệu suất cao hơn và tích hợp tốt hơn giữa các thành phần AI, CPU và GPU.