1

Topic: Microsoft Azure triển khai Cloud AI với giải pháp NVIDIA GPU Cloud

NVIDIA GPU Cloud đến với Microsoft Azure

August 30, 2018 by Rich Brueckner

Theo NVIDIA Blog , Chris Kawalek viết rằng Microsoft Azure hiện là một nền tảng được tích hợp và sẵn sàng NVIDIA GPU Cloud (NGC).

http://forum.thegioimaychu.vn/upload/attachment/logo_hpc_cloud_240.png

"Điều này có nghĩa là các nhà khoa học dữ liệu, các nhà nghiên cứu và nhà phát triển sử dụng các trường hợp NVIDIA GPU trên Microsoft Azure sẽ có thể khởi động dự án AI và HPC của họ với một loạt các phần mềm tối ưu hóa GPU mà không mất thêm phí thông qua NGC. Hàng ngàn nhà phát triển, các nhà khoa học và các nhà nghiên cứu dữ liệu hiện có thể khởi động các dự án tính toán GPU của họ, theo thông báo ngày hôm nay."

Các thùng chứa sẵn sàng chạy từ NGC với Azure cho phép các nhà phát triển truy cập vào máy tính GPU theo yêu cầu có quy mô theo nhu cầu của họ và loại bỏ sự phức tạp của việc tích hợp và kiểm thử phần mềm.

"Xây dựng và thử nghiệm các ngăn xếp phần mềm đáng tin cậy để chạy phần mềm học tập sâu phổ biến - chẳng hạn như TensorFlow, Bộ công cụ nhận dạng Microsoft, PyTorch và NVIDIA TensorRT - là một thách thức và tốn thời gian. Có các phụ thuộc ở cấp hệ điều hành và với trình điều khiển, thư viện và thời gian chạy. Và nhiều gói đề xuất các phiên bản khác nhau của các thành phần hỗ trợ.."

Để làm cho vấn đề tồi tệ hơn, các khung công tác và ứng dụng được cập nhật thường xuyên, có nghĩa là công việc này phải được làm lại mỗi lần một phiên bản mới được triển khai. Lý tưởng nhất, bạn nên thử nghiệm phiên bản mới để đảm bảo nó cung cấp hiệu suất tương tự hoặc tốt hơn như trước đây. Và tất cả điều này là trước khi bạn thậm chí có thể bắt đầu với một dự án.

"Đối với HPC, khó khăn là làm thế nào để triển khai phần mềm mới nhất cho các cụm hệ thống. Ngoài việc tìm kiếm và cài đặt các phụ thuộc chính xác, kiểm tra và vv, bạn phải làm điều này trong một môi trường nhiều người thuê và trên nhiều hệ thống. NGC loại bỏ sự phức tạp này bằng cách cung cấp các thùng chứa được cấu hình sẵn với phần mềm tăng tốc GPU. Các thiết bị học tập sâu của nó được hưởng lợi từ việc đầu tư R & D đang diễn ra của NVIDIA để đảm bảo các container tận dụng được các tính năng mới nhất của GPU. Và chúng tôi kiểm tra, điều chỉnh và tối ưu hóa ngăn xếp phần mềm hoàn chỉnh trong vùng chứa học tập sâu với cập nhật hàng tháng để đảm bảo hiệu suất tốt nhất có thể."

Theo Kawalek, việc sử dụng các thùng chứa NGC với Azure rất đơn giản:

"Chỉ cần vào Microsoft Azure Marketplace và tìm hình ảnh đám mây GPU NVIDIA cho Deep Learning và HPC (đây là một hình ảnh máy ảo Azure được cấu hình sẵn với mọi thứ cần thiết để chạy các thùng chứa NGC). Khởi chạy phiên bản NVIDIA GPU tương thích trên Azure. Sau đó, kéo các thùng chứa bạn muốn từ đăng ký NGC vào thể hiện đang chạy của bạn. (Trước tiên, bạn sẽ cần phải đăng ký tài khoản NGC miễn phí). Thông tin chi tiết có trong tài liệu “Sử dụng NGC với Microsoft Azure”.."

Ngoài việc sử dụng hình ảnh được xuất bản NVIDIA trên Azure Marketplace để chạy các thùng chứa NGC này, Azure Batch AI cũng có thể được sử dụng để tải xuống và chạy các thùng chứa này từ NGC trên các máy ảo Azure NCv2, NCv3 và ND. Thực hiện theo các hướng dẫn GitHub đơn giản này để bắt đầu với Hàng loạt AI với các thùng chứa NGC.

Với sự hỗ trợ NGC cho Azure, NVIDIA giúp mọi người dễ dàng bắt đầu với AI hoặc HPC trên đám mây hơn.

Theo https://insidehpc.com/2018/08/nvidia-gpu-cloud-comes-microsoft-azure/