Безпрецедентне прискорення для найвищих у світі еластичних центрів обробки даних
Графічний процесор NVIDIA A2 Tensor Core забезпечує початковий рівень обчислень з низьким енергоспоживанням, малою площею, що займає, і високою продуктивністю для інтелектуальної відеоаналітики (IVA) або ІІ NVIDIA на кордоні. Завдяки низькопрофільній карті PCIe Gen4 та низької теплової потужності (TDP) 40-60 Вт, A2 забезпечує універсальне прискорення обчислень на будь-якому сервері.
Універсальність, компактні розміри та низьке енергоспоживання A2 перевершують вимоги до масштабних прикордонних розгортань, дозволяючи миттєво модернізувати існуючі сервери з CPU початкового рівня для роботи з висновками. Сервери, прискорені за допомогою GPU A2, забезпечують до 20 разів вищу продуктивність порівняно з CPU та в 1,3 рази ефективніше розгортання IVA порівняно з попередніми поколіннями GPU – і все це за ціною початкового рівня.
Сертифіковані NVIDIA системи з графічними процесорами NVIDIA A2, A30 та A100 Tensor Core та NVIDIA AI, включаючи NVIDIA Triton Inference Server з відкритим вихідним кодом, забезпечують революційну продуктивність обчислень на кордоні, у центрі обробки даних та хмарі. Вони забезпечують розгортання додатків з підтримкою ІІ з меншою кількістю серверів та меншою потужністю, що призводить до більш легкого розгортання та швидших висновків за значно менших витрат.
Тензорні ядра NVIDIA третього покоління
Тензорні ядра третього покоління в NVIDIA A2 підтримують цілочисленні обчислення аж до INT4 та обчислення з плаваючою точкою аж до FP32, забезпечуючи високу продуктивність навчання та висновків ІІ. Архітектура NVIDIA Ampere в A2 також підтримує TF32 та автоматичні функції змішаної точності NVIDIA (AMP).
RT-ядра другого покоління
NVIDIA A2 GPU включає виділені RT-ядра для трасування променів та тензорні ядра для ІІ, щоб забезпечити революційні результати на революційній швидкості. Він забезпечує в 2 рази більшу пропускну здатність порівняно з попереднім поколінням та можливість одночасного виконання трасування променів з функціями затінення або денуазингу.
Структурна розрідженість
Сучасні мережі штучного інтелекту стають дедалі більше, маючи від мільйонів до мільярдів параметрів. Не всі ці параметри потрібні для точних передбачень та висновків. A2 забезпечує вдвічі більш високу продуктивність обчислень для розріджених моделей порівняно з GPU попереднього покоління. Цю особливість можна використовувати для підвищення продуктивності навчання моделей.
Посилений корінь довіри для безпечних розгортань
Забезпечення безпеки у прикордонних розгортаннях та кінцевих точках є дуже важливим для корпоративних бізнес-операцій. NVIDIA A2 GPU забезпечує безпечне завантаження за допомогою аутентифікації довіреного коду та посиленого захисту відкату від атак шкідливого ПЗ, запобігаючи втратам у роботі та забезпечуючи прискорення робочих навантажень.
Чудова продуктивність апаратного транскодування
Продуктивність реального часу є критично важливою для IVA (Internet Video Analytics) на кордоні, вимагаючи новітніх можливостей апаратного кодування та декодування. Графічні процесори NVIDIA A2 використовують спеціалізоване обладнання для повного прискорення декодування та кодування відео для найпопулярніших кодеків, включаючи H.265, H.264 та VP9, а також декодування AV1 для обробки відео в реальному часі.