Chuyển đến nội dung chính

Bộ gia tốc AI Intel® Gaudi® 3

AI hiệu năng cao mang lại nhiều lựa chọn, tính linh hoạt và khả năng mở rộng hơn.

Logo Intel Gaudi

Thẻ PCIe Intel® Gaudi® 3

Thẻ Intel Gaudi® 3 PCIe (HL-338) mang lại khả năng tăng tốc AI trong hệ số hình dạng PCIe Gen5 tiêu chuẩn để Tích hợp Liền (không có đường nối) vào các máy chủ hiện có. Được thiết kế cho các khối lượng công việc khắt khe như LLM, mô hình đa phương thức và RAG doanh nghiệp, nó sử dụng Ethernet tiêu chuẩn để giúp mở rộng quy mô hiệu quả và tiết kiệm chi phí.

Hình ảnh trên cao của bo mạch Intel® Gaudi®

Mở

Tránh các khoản đầu tư rủi ro vào các công nghệ độc quyền, đã bị khóa như NVLink, NVSwitch và InfiniBand.

Nhiều I/O

Tận dụng kết nối I/O nhiều hơn 33% trên mỗi bộ gia tốc so với H1001, cho phép mở rộng theo chiều dọc (scale-up) và mở rộng theo chiều ngang (scale-out) quy mô lớn với chi phí được tối ưu hóa.

Được xây dựng cho Ethernet

Sử dụng cơ sở hạ tầng nối mạng bạn đã sở hữu và hỗ trợ các nhu cầu trong tương lai với phần cứng Ethernet tiêu chuẩn.

Dễ dàng mở rộng

Bộ gia tốc AI Intel Gaudi 3 được thiết kế để mang lại khả năng mở rộng AI đơn giản, tiết kiệm chi phí cho các triển khai lớn nhất và phức tạp nhất.

Góc nhìn ba phần tư của Cụm Gaudi AI Accelerator 32-Node

Thiết kế tham chiếu Cụm 32 nút Intel Gaudi 3 AI Accelerator

Xây dựng các giải pháp AI với các hệ thống dựa trên bộ gia tốc Intel Gaudi 3 mới nhất, được thiết kế để mở rộng và có khả năng phát triển với cấu trúc mạng dựa trên Ethernet và hỗ trợ nhiều mô hình cũng như khung làm việc AI trong ngành.

Xem thiết kế tham khảo
Sơ đồ bóc tách của bộ gia tốc AI Gaudi 3

Được thiết kế cho nhu cầu thực tế của AI

Bộ gia tốc AI Intel® Gaudi® 3 cho phép bạn sử dụng phần mềm mở, dựa trên cộng đồng và kết nối mạng Ethernet tiêu chuẩn ngành để mở rộng quy mô hệ thống linh hoạt hơn. Xem kết quả thử nghiệm từ Signal65.

Đọc sách trắng
Logo Intel® và Dev Zone

Đơn giản hóa việc phát triển từ đầu đến cuối

Đi từ giai đoạn chứng minh tính khả thi đến sản xuất trong thời gian ngắn hơn. Từ chuyển đổi đến triển khai, Bộ gia tốc AI Intel Gaudi 3 được hỗ trợ bởi danh mục các công cụ phần mềm, tài nguyên và đào tạo mạnh mẽ. Tìm hiểu những gì có sẵn để giúp đơn giản hóa nỗ lực AI của bạn. Tham gia cộng đồng nhà phát triển.

Duyệt các tài nguyên nhà phát triển

Lưu thời gian và năng lượng với Bộ gia tốc Intel Gaudi 3

Lên đến

2x

Điện toán AI (FP8) so với Bộ gia tốc AI Intel Gaudi 2

Lên đến

4x

Điện toán AI (BF16) so với Bộ gia tốc AI Intel Gaudi 2

Lên đến

2x

Băng thông mạng so với Bộ gia tốc AI Intel Gaudi 2

Triển khai Bộ gia tốc AI Intel Gaudi 3 với các OEM

Phát triển dễ dàng

Được thiết kế để đạt mục tiêu ROI nhanh chóng. Bắt đầu với Bộ gia tốc AI Intel Gaudi 3 rất đơn giản, dù là bạn đang bắt đầu từ con số không, tinh chỉnh các mô hình có sẵn hay chuyển từ cách tiếp cận dựa trên GPU.

Truy cập Phần mềm Intel Gaudi

Được tối ưu hóa cho nhà phát triển

Tận dụng các công cụ phần mềm và tài nguyên dành cho nhà phát triển để tăng tốc độ một cách dễ dàng.

Được tích hợp với PyTorch

Tiếp tục làm việc với thư viện mà nhóm của bạn đã biết.

Hỗ trợ các mô hình mới và hiện có

Tùy chỉnh các mô hình tham chiếu, bắt đầu mới hoặc di chuyển các mô hình hiện có bằng cách sử dụng các công cụ nguồn mở, bao gồm tài nguyên từ Hugging Face.

Dễ dàng di chuyển các mô hình dựa trên GPU

Nhanh chóng chuyển các giải pháp hiện có của bạn bằng cách sử dụng các công cụ phần mềm được xây dựng có mục đích của chúng tôi.

Trải nghiệm Bộ gia tốc AI Intel Gaudi trong đám mây

Tài nguyên

Thông tin sản phẩm và hiệu năng

Một số hình ảnh trên trang này đã được AI tạo ra.

1 GPU NVIDIA H100 (kết nối NVLink đã đóng 900 GB/giây) so với bộ gia tốc Intel® Gaudi® 3 (RoCE tiêu chuẩn mở 1.200 GB/giây).