Телекоммуникации

Компания Microsoft Azure сообщила о доступности виртуальных машин NVIDIA A100 GPU

~ 3 мин

Это самые мощные виртуальные машины для искусственного интеллекта и высокопроизводительных вычислений суперкомпьютерного класса на базе графических процессоров NVIDIA A100 с тензорными ядрами и NVIDIA HDR InfiniBand

Nvidia-Image

Microsoft Azure объявила об общедоступности серии виртуальных машин ND A100 v4 – своих самых мощных виртуальных машин для искусственного интеллекта и высокопроизводительных вычислений суперкомпьютерного класса на базе графических процессоров NVIDIA A100 с тензорными ядрами и NVIDIA HDR InfiniBand.

NVIDIA в сотрудничестве с Azure разработала эту новую масштабируемую платформу ИИ, которая объединяет революционные графические процессоры на архитектуре NVIDIA Ampere, сетевые технологии NVIDIA и мощь высокопроизводительного межсоединения и фабрики виртуальных машин Azure, чтобы сделать суперкомпьютеры ИИ доступными для всех. 

При решении серьезных задач в области искусственного интеллекта и высокопроизводительных вычислений масштаб — это все. Обработка естественной речи, системы рекомендаций, медицинские исследования, открытие новых лекарств и развитие новых технологий в энергетике, среди прочего, достигли огромного прогресса, и всё это произошло  благодаря ускоренным вычислениям. Большая часть этого прогресса была достигнута с помощью приложений, работающих в массовом масштабе. Чтобы ускорить эту тенденцию, приложения должны работать на гибкой, доступной архитектуре, которая может масштабироваться под различные задачи.

Как работает виртуальная машина ND A100 v4

Виртуальная машина ND A100 v4 объединяет восемь графических процессоров NVIDIA A100 в одной виртуальной машине с NVIDIA HDR InfiniBand, обеспечивающей пропускную способность данных 200 Гбит с на каждый графический процессор. Это означает огромную пропускную способность межсоединения 1,6 Тб/с на одну виртуальную машину. Для наиболее требовательных рабочих нагрузок AI и HPC их можно дополнительно масштабировать до тысяч графических процессоров NVIDIA A100 в рамках той же структуры InfiniBand с малой задержкой, обеспечивая как вычислительные, так и сетевые возможности для многоузловых распределенных вычислений.

У разработчиков есть несколько вариантов получения максимальной производительности от графических процессоров NVIDIA A100 в виртуальной машине ND A100 v4 для своих приложений, как для разработки приложений, так и для управления инфраструктурой после развертывания этих приложений. Чтобы упростить и ускорить разработку, каталог NVIDIA NGC предлагает готовые к использованию платформы приложений, оптимизированные для графического процессора, контейнеры, предварительно обученные модели, библиотеки, SDK и диаграммы Helm. 

Вместе с предварительно созданным образом NVIDIA, который оптимизирован для графического процессора, для искусственного интеллекта и высокопроизводительных вычислений на Azure Marketplace, разработчики могут начать работу с графическим ускорителем программного обеспечения из каталога NGC всего за несколько щелчков мышью. Виртуальные машины ND A100 v4 также поддерживаются службой машинного обучения Azure для интерактивной разработки ИИ, распределенного обучения, пакетного вывода и автоматизации с помощью ML Ops.

NVIDIA Triton Inference Server

Развертывание конвейеров машинного обучения в производственной среде с виртуальными машинами ND A100 v4 еще больше упрощается с помощью NVIDIA Triton Inference Server – приложения для обслуживания логических выводов с открытым исходным кодом, интегрированного с Azure ML, чтобы максимизировать производительность и использование как графического, так и центрального процессора, а также эксплуатационные расходы на развертывание. Разработчики и менеджеры инфраструктуры в скором времени также смогут использовать Azure Kubernetes Service, полностью управляемую службу Kubernetes, для развертывания и управления контейнерными приложениями на виртуальных машинах ND A100 v4 с графическими процессорами NVIDIA A100.

Обращайтесь к нам, чтобы внедрить такое решение в своей компании
Департамент корпоративных решений

    ;