Netflix tăng cường trải nghiệm phát trực tiếp

Tóm tắt về Ban điều hành

Netflix nỗ lực chuyển đổi trải nghiệm giải trí tại nhà và cung cấp cho 260 triệu người đăng ký trải nghiệm tùy chỉnh, đáng tin cậy trên bất kỳ thiết bị nào. Để thực hiện điều đó, Netflix phải tăng tốc chuyển dữ liệu và khối lượng công việc AI bằng các công nghệ tiên tiến, bao gồm các phiên bản Amazon EC2 được bộ xử lý Intel® Xeon® hỗ trợ. Khi làm việc với Intel, Netflix:
 

• Các phiên bản Amazon được tối ưu hóa ở cấp độ cấu trúc vi mô để tăng hiệu năng và giảm chi phí đám mây. Sau khi nâng cấp các phiên bản EC2, Netflix đã đạt được mức cải thiện hiệu năng 3,5 lần trên mỗi CPU, vượt quá khả năng mở rộng tuyến tính dự đoán.¹
• Sử dụng thư viện mạng thần kinh sâu Intel® oneAPI (oneDNN) và bộ hướng dẫn Intel® Advanced Vector Extensions (Intel® AVX-512) để tối ưu hóa tốc độ mã hóa video trong những giờ nhu cầu của người dùng thấp. Các giải pháp của Intel cung cấp sự cải tiến đáng kể về tốc độ mã hóa khung mỗi giây.

Thách thức

Netflix tìm cách cung cấp nội dung liền mạch, theo yêu cầu cho cơ sở khách hàng toàn cầu, bất kể thiết bị người dùng sử dụng để xem nội dung. Quá trình này yêu cầu nhiều dịch vụ vi mô được tối ưu hóa cho khối lượng công việc hỗ trợ trải nghiệm của người đăng ký. Một số dịch vụ vi mô phụ trợ phải xử lý các tác vụ phát triển, kết xuất và mã hóa nội dung. Ở khía cạnh tương tác trực tiếp với người dùng, người đăng ký Netflix cần chế độ xem trang chủ phù hợp để xác định và đề xuất nội dung liên quan nhất từ hàng nghìn tiêu đề. Ngoài ra, Netflix liên tục cố gắng phục vụ các thành viên của mình bằng trải nghiệm giải trí tuyệt vời và chất lượng phát trực tiếp vượt trội, có sẵn mọi lúc.

Biểu đồ minh họa số liệu phân tích CPU theo nút. Mặc dù kết quả phân tích tìm thấy sự phân bố lưu lượng gần như bằng nhau giữa các nút, nhưng các số liệu CPU đã chứng minh các kiểu phân bố hai phương pháp khác nhau.¹

Để hoàn thành tất cả các tác vụ này và nhiều công việc khác, Netflix cần giải pháp đám mây có thể mở rộng đáng tin cậy, có khả năng mở rộng cao và sẵn sàng cho AI kèm theo các công cụ tiên tiến để đơn giản hóa việc khắc phục khi xảy ra sự cố. Ví dụ: đội ngũ Netflix đã phát hiện ra thách thức về độ trễ bất ngờ trong khi đánh giá các phiên bản Amazon EC2 về hiệu năng. Họ cần một cách hiệu quả để đánh giá các phiên bản xuống đến cấp độ cấu trúc vi mô của CPU để tăng tốc khối lượng công việc, đồng thời giảm thiểu chi phí đám mây.

Giải pháp

Để cung cấp cho người đăng ký trải nghiệm phát trực tiếp nhanh và tùy chỉnh, Netflix đã khai thác sức mạnh của các phiên bản Amazon EC2 được bộ xử lý Intel® Xeon® hỗ trợ. Nhóm hiệu năng của Netflix đã hợp tác chặt chẽ với Intel để xem xét kỹ lưỡng sự tương tác của phần mềm với tài nguyên phần cứng có sẵn và xác định điểm tắc nghẽn. Intel® VTuneTM Profiler đã tìm thấy các đoạn mã không sử dụng thời gian bộ xử lý tối ưu. Intel® PerfSpect cung cấp thông tin chuyên sâu bổ sung bằng cách đánh giá các hệ thống con cấu trúc vi mô và các chuỗi được lập trình. Cuối cùng, những công cụ đã giúp xác định chính xác điểm tắc nghẽn của phiên bản trong một tập hợp hướng dẫn trong Máy ảo Java.

Độ trễ đã giảm đáng kể sau khi xác định và giải quyết vấn đề chia sẻ đúng được minh họa trong biểu đồ này.¹

Bằng cách sử dụng các phiên bản Amazon với bộ xử lý Intel Xeon cơ bản thay vì GPU, Netflix đã tìm ra cách tiết kiệm tiền bằng cách sử dụng từng phiên bản để hoàn thành nhiều tác vụ. Trong giờ xem cao điểm, các phiên bản Amazon có thể tập trung tài nguyên vào việc phát trực tiếp. Khi nhu cầu của người dùng giảm đi, các phiên bản có thể chuyển hướng sức mạnh điện toán để tăng tốc mã hóa video.

Kết quả

Với sự hỗ trợ của Intel để xác định điểm tắc nghẽn của phiên bản, Netflix đã ghi nhận sự cải thiện hiệu năng trên mỗi CPU 3,5 lần so với thông lượng ban đầu trên các phiên bản Amazon EC2.¹ Họ cũng được hưởng lợi từ việc giảm đáng kể độ trễ trung bình và đuôi.² Các công ty khác sử dụng khối lượng công việc Java cũng có thể hưởng lợi ích từ phương pháp tối ưu hóa CPU của Netflix vì Intel đã giải quyết nguồn độ trễ trong Bộ phát triển Java mở.

Bằng cách sử dụng oneDNN với bộ hướng dẫn Intel AVX, Netflix đã cải thiện đáng kể tỷ lệ khung mỗi giây, mang lại chất lượng video tuyệt vời trên tất cả các thiết bị.

Các phiên bản Amazon của Netflix với bộ xử lý Intel Xeon cũng có thể phục vụ nhiều mục đích hiệu quả bằng cách sử dụng chức năng tự động mở rộng quy mô. Hiệu quả đạt được thông qua CPU cho phép Netflix giảm số lượng phiên bản cần thiết cho khối lượng công việc quan trọng và cắt giảm đáng kể chi phí cơ sở hạ tầng đám mây tổng thể của họ.

Tóm tắt giải pháp

• Bộ xử lý Intel® Xeon®
• Intel® oneAPI Deep Neural
• Thư viện mạng
• Intel® Deep Learning Boost
• với Mạng thần kinh Vector
• Hướng dẫn (VNNI)
• Intel® Advanced Vector
• Tiện ích mở rộng 512 (Intel® AVX 512)
• Bộ phân tích Intel® VTune ™
• Intel® PerfSpect
• Phiên bản Amazon EC2

Tải PDF xuống ›