Телекомунікації

Компанія Microsoft Azure повідомила про доступність віртуальних машин NVIDIA A100 GPU

~ 3 хв

Це найпотужніші віртуальні машини для штучного інтелекту і високопродуктивних обчислень суперкомп’ютерного класу на базі графічних процесорів NVIDIA A100 з тензорними ядрами і NVIDIA HDR InfiniBand

Nvidia-Image

Microsoft Azure оголосила про загальнодоступність серії віртуальних машин ND A100 v4 – своїх найпотужніших віртуальних машин для штучного інтелекту і високопродуктивних обчислень суперкомп’ютерного класу на базі графічних процесорів NVIDIA A100 з тензорними ядрами і NVIDIA HDR InfiniBand.

NVIDIA у співпраці з Azure розробила цю нову масштабовану платформу ШІ, яка об’єднує революційні графічні процесори на архітектурі NVIDIA Ampere, мережеві технології NVIDIA і міць високопродуктивного міжз’єднання і фабрики віртуальних машин Azure, щоб зробити суперкомп’ютери ШІ доступними для всіх.

При вирішенні серйозних завдань у галузі штучного інтелекту і високопродуктивних обчислень масштаб – це все. Обробка природної мови, системи рекомендацій, медичні дослідження, відкриття нових ліків і розвиток нових технологій у енергетиці, серед іншого, досягли величезного прогресу, і все це відбулося завдяки прискореним обчисленням. Більша частина цього прогресу була досягнута за допомогою програм, які потребують масового масштабу. Щоб прискорити цю тенденцію, додатки повинні працювати на гнучкій, доступній архітектурі, яка може масштабуватися під різні завдання.

Як працює віртуальна машина ND A100 v4

Віртуальна машина ND A100 v4 об’єднує вісім графічних процесорів NVIDIA A100 в одній віртуальній машині з NVIDIA HDR InfiniBand, що забезпечує пропускну здатність даних 200 Гбіт с на кожен графічний процесор. Це означає величезну пропускну здатність міжз’єднання 1,6 Тб/с на одну віртуальну машину. Для найбільш вимогливих робочих навантажень AI і HPC їх можна додатково масштабувати до тисяч графічних процесорів NVIDIA A100 у рамках тієї ж структури InfiniBand з малою затримкою, забезпечуючи як обчислювальні, так і мережеві можливості для багатовузлових розподілених обчислень.

У розробників є кілька варіантів отримання максимальної продуктивності від графічних процесорів NVIDIA A100 у віртуальній машині ND A100 v4 для своїх додатків, як для розробки додатків, так і для управління інфраструктурою після розгортання цих додатків. Щоб спростити і прискорити розробку, каталог NVIDIA NGC пропонує готові до використання платформи додатків, оптимізовані для графічного процесора, контейнери, попередньо навчені моделі, бібліотеки, SDK та діаграми Helm.

Разом з попередньо створеним образом NVIDIA, який оптимізований для графічного процесора, для штучного інтелекту і високопродуктивних обчислень на Azure Marketplace, розробники можуть почати роботу з графічним прискорювачем програмного забезпечення з каталогу NGC всього за кілька кліків мишкою. Віртуальні машини ND A100 v4 також підтримуються службою машинного навчання Azure для інтерактивної розробки ШІ, розподіленого навчання, пакетного виведення і автоматизації за допомогою ML Ops.

NVIDIA Triton Inference Server

Розгортання конвеєрів машинного навчання у виробничому середовищі з віртуальними машинами ND A100 v4 ще більше спрощується за допомогою NVIDIA Triton Inference Server – додатка для обслуговування логічних висновків з відкритим вихідним кодом, інтегрованого з Azure ML, щоб максимізувати продуктивність і використання як графічного, так і центрального процесора, а також експлуатаційні витрати на розгортання. Розробники і менеджери інфраструктури незабаром також зможуть використовувати Azure Kubernetes Service, повністю керовану службу Kubernetes, для розгортання і управління контейнерними додатками на віртуальних машинах ND A100 v4 з графічними процесорами NVIDIA A100.

Звертайтеся до нас, щоб впровадити таке рішення в своїй компанії
Департамент корпоративних рішень

    ;