Bộ gia tốc AI Intel® Gaudi®
Bộ xử lý đào tạo và suy luận học sâu thế hệ đầu tiên.
Bộ gia tốc AI Intel® Gaudi®
Để có hiệu năng giá hàng đầu trong đám mây và tại cơ sở
Với bộ xử lý AI Intel® Gaudi® thế hệ đầu tiên, khách hàng được hưởng lợi từ giải pháp thay thế đào tạo và suy luận hiệu năng cao, tiết kiệm chi phí nhất so với GPU tương đương. Đây là cấu trúc học sâu cho phép các phiên bản AWS DL1 dựa trên bộ gia tốc AI Intel Gaudi để cung cấp khả năng đào tạo có hiệu năng/giá tốt hơn tới 40% so với các phiên bản dựa trên GPU Nvidia tương đương. Cấu trúc hiệu quả của bộ gia tốc AI Intel Gaudi cũng cho phép Supermicro cung cấp cho khách hàng lợi thế hiệu năng giá đáng kể không kém so với các máy chủ dựa trên GPU với Máy chủ Supermicro X12 được trang bị bộ gia tốc AI Intel Gaudi.
Bộ gia tốc AI Intel® Gaudi® trên Đám mây
Bắt đầu với Phiên bản Amazon EC2 DL1 dựa trên Bộ gia tốc AI Intel Gaudi.
Bộ gia tốc AI Intel® Gaudi® trong Trung tâm Dữ liệu
Xây dựng bộ xử lý AI Intel Gaudi vào trung tâm dữ liệu của bạn bằng Supermicro.
Điều gì giúp bộ gia tốc AI Intel Gaudi hiệu quả như vậy?
- Công nghệ Xử lý 16 nm
- Công cụ nhân Ma trận Được Tối ưu hóa DL
- 8 lõi Bộ xử lý Tensor Có thể lập trình
- HBM2 Trên Bo mạch 32 GB
- 24 SRAM
- 10 Cổng Ethernet 100G Tích hợp
Các tùy chọn để xây dựng hệ thống bộ gia tốc AI Intel Gaudi tại cơ sở
Đối với những khách hàng muốn xây dựng hệ thống tại cơ sở, chúng tôi khuyên bạn nên sử dụng Máy chủ Supermicro X12, có tám bộ xử lý AI Intel Gaudi. Đối với khách hàng muốn cấu hình máy chủ của riêng họ, dựa trên bộ gia tốc AI Intel Gaudi, chúng tôi cung cấp các tùy chọn mô hình tham chiếu, HLS-1 và HLS-1H.
Để biết thêm thông tin về các tùy chọn máy chủ này, vui lòng xem thêm chi tiết >
Giúp phát triển trên bộ gia tốc AI Intel Gaudi nhanh chóng và dễ dàng: phần mềm Intel® Gaudi®
Được tối ưu hóa để phát triển mô hình học sâu và dễ dàng di chuyển các mô hình dựa trên GPU hiện có sang phần cứng nền tảng AI Intel Gaudi. Sản phẩm tích hợp các khung PyTorch và TensorFlow và hỗ trợ một loạt các thị giác máy tính đang phát triển nhanh chóng, xử lý ngôn ngữ tự nhiên và các mô hình đa phương thức. Trên thực tế, hơn 500K mô hình trên Hugging Face dễ dàng được kích hoạt trên bộ gia tốc Intel Gaudi với thư viện phần mềm Habana Optimum.
Bắt đầu với việc di chuyển mô hình dễ dàng như thêm 2 dòng mã và đối với người dùng chuyên gia muốn lập trình hạt nhân hệ điều hành của riêng họ, nền tảng Intel Gaudi cũng cung cấp bộ công cụ đầy đủ và các thư viện để thực hiện điều đó. Phần mềm Intel Gaudi hỗ trợ đào tạo và suy luận các mô hình trên bộ gia tốc Intel Gaudi thế hệ đầu tiên và bộ gia tốc Intel Gaudi 2.
Để biết thêm thông tin về cách nền tảng Intel Gaudi giúp dễ dàng di chuyển các mô hình hiện có hoặc xây dựng các mô hình mới trên Gaudi, hãy xem trang sản phẩm phần mềm Intel Gaudi của chúng tôi >