Bộ gia tốc AI Intel® Gaudi® 2

Tăng tốc hiệu năng cao cho GenAI và LLM.

Bộ gia tốc AI Intel® Gaudi® 2

Bộ gia tốc AI Intel® Gaudi® 2 của Chúng tôi đang Thúc đẩy Cải thiện Hiệu năng-Giá của Học sâu

Và hiệu quả hoạt động cho việc đào tạo và chạy các mô hình hiện đại, từ các mô hình ngôn ngữ và đa phương thức lớn nhất đến các mô hình thị giác máy tính và NLP cơ bản hơn. Được thiết kế cho khả năng mở rộng hiệu quả—cho dù trong đám mây hay trong trung tâm dữ liệu của bạn, bộ gia tốc Intel Gaudi 2 mang lại lựa chọn mà ngành AI hiện nay cần hơn bao giờ hết.

Các Tính năng Cấu trúc Intel® Gaudi® 2:

Được xây dựng trên nền tảng thiết kế Intel Gaudi thế hệ đầu tiên đã được chứng minh.

  • Công nghệ xử lý 7 nm
  • Điện toán không đồng nhất
  • 24 Lõi Bộ xử lý Tensor
  • Công cụ nhân ma trận kép
  • 24 Cổng Ethernet 100 Gigabit được tích hợp trên vi mạch
  • Bộ nhớ HBM2E 96 GB trên bo mạch
  • SRAM 48 MB
  • Trung tâm Điều khiển Phương tiện Tích hợp

Bộ gia tốc AI Intel® Gaudi® 2 Vẫn là Lựa chọn Thay thế Được Chuẩn hóa DUY NHẤT cho Nvidia H100 để tăng Hiệu năng AI Sáng tạo

Dựa trên các tiêu chuẩn Đào tạo MLPerf 3.1 và Suy luận 4.0 mới nhất, được công bố lần lượt vào tháng 12 năm 2023 và tháng 3 năm 2024, bộ gia tốc Intel Gaudi 2 vẫn là lựa chọn thay thế được chuẩn hóa duy nhất cho Nvidia H100.

Xem kết quả ›

Ngoài tiêu chuẩn công năng ngành MLPerf, bộ gia tốc AI Intel Gaudi 2 cũng ghi điểm trên các đánh giá của bên thứ ba khác.1

Để biết thêm Thông tin về Bộ gia tốc Intel® Gaudi® 2, Hãy Xem Video

Bộ gia tốc AI Intel® Gaudi® 2 Hỗ trợ Mở rộng Quy mô Lớn, Linh hoạt

Với 24 cổng Ethernet 100 Gigabit (RoCEv2) được tích hợp vào mỗi bộ gia tốc AI Intel Gaudi 2, khách hàng được hưởng lợi từ khả năng mở rộng linh hoạt và tiết kiệm chi phí cho phép tăng cường hiệu năng của bộ gia tốc AI Intel Gaudi 2 từ một đến hàng ngàn bộ gia tốc.

Xem hình ảnh bên dưới để biết thiết kế tham chiếu máy chủ có 8 bộ gia tốc Intel Gaudi 2.

Để biết thêm thông tin về việc xây dựng quy mô hệ thống bằng bộ gia tốc AI Intel Gaudi 2, hãy xem trang Nối mạng của chúng tôi ›

Đối tác nổi bật

Thiết bị chuyển mạch Cisco Nexus 9364D-GX2A đủ điều kiện để kết nối bộ tăng tốc Intel Gaudi 2 nhằm xây dựng mạng mở rộng để chạy đào tạo mô hình ngôn ngữ lớn (LLM), suy luận hoặc khối lượng công việc AI tạo sinh tương tự.

Dễ dàng Xây dựng Mới hoặc Di chuyển các Mô hình Hiện có trên Bộ gia tốc AI Intel Gaudi 2

Phần mềm Intel Gaudi, được tối ưu hóa cho hiệu năng và tính dễ sử dụng của nền tảng Intel Gaudi, cung cấp cho các nhà phát triển các tài liệu, công cụ, nội dung hướng dẫn và các mô hình tham khảo để giúp họ bắt đầu sử dụng phần mềm Intel Gaudi một cách nhanh chóng và dễ dàng.

Truy cập và dễ dàng triển khai hơn 500K mô hình với Thư viện Habana Optimum trên trung tâm Hugging Face.

Để biết thêm thông tin, hãy truy cập trang web dành cho nhà phát triển của chúng tôi ›

Tài nguyên cho Bộ gia tốc AI Intel Gaudi 2

Truy cập / Mua

Mạng

Phát triển

Đối tác

Hiển thị thêm Hiện ít hơn
So sánh sản phẩm

Thông tin Sản phẩm và Hiệu năng

1

Truy cập https://habana.ai/habana-claims-validation để biết các khối lượng công việc và cấu hình. Kết quả có thể khác nhau https://huggingface.co/blog/habana-gaudi-2-benchmark https://huggingface.co/blog/habana-gaudi-2-bloom