Висока продуктивність з більшою і швидшою пам'яттю
Графічний процесор NVIDIA H200 Tensor Core забезпечує генеративний штучний інтелект та високопродуктивні обчислювальні навантаження (HPC) з революційною продуктивністю та можливостями пам'яті. Заснований на архітектурі NVIDIA Hopper™, NVIDIA H200 є першим графічним процесором, що пропонує 141 гігабайт (ГБ) пам'яті HBM3e зі швидкістю 4,8 терабайт на секунду (ТБ/с), що майже вдвічі перевищує ємність графічного процесора NVIDIA H100 Tensor Core з в 1,4 рази більшою пропускною спроможністю пам'яті. Більша та швидша пам'ять H200 прискорює генеративний штучний інтелект та великі мовні моделі, одночасно просуваючи наукові обчислення для робочих навантажень HPC з кращою енергоефективністю та нижчою загальною вартістю володіння.
Відкрийте для себе інсайти з високопродуктивним висновком LLM
У постійно розвивається ландшафті штучного інтелекту компанії покладаються на великі мовні моделі для задоволення різноманітних потреб у виведенні. Прискорювач виведення ІІ має забезпечувати найвищу пропускну спроможність за найнижчої сукупної вартості володіння при масштабному розгортанні для величезної бази користувачів. H200 подвоює продуктивність виводу в порівнянні з графічними процесорами HlO0 під час роботи з великими мовними моделями, такими як Llama2 70B.
Прискоріть високопродуктивні обчислення
Пропускна здатність пам'яті має вирішальне значення для програм HPC, оскільки вона забезпечує більш швидку передачу даних і скорочує складні вузькі місця обробки. Для програм HPC з інтенсивним використанням пам'яті, таких як моделювання, наукові дослідження та штучний інтелект, більш висока пропускна здатність пам'яті H200 забезпечує ефективний доступ до даних та їх обробку, що призводить до скорочення часу отримання результатів у 110 разів.
Скорочення енергоспоживання та сукупної вартості володіння
З впровадженням H200 енергоефективність та сукупна вартість володіння виходять на новий рівень. Ця передова технологія забезпечує неперевершену продуктивність і все це в тому ж профілі потужності, що і H100 Tensor Core GPU. Фабрики штучного інтелекту та суперкомп'ютерні системи, які не тільки швидше, а й більш екологічні, забезпечують економічну перевагу, що просуває вперед спільноти штучного інтелекту та наукові спільноти.
Корпоративна готовність: програмне забезпечення штучного інтелекту спрощує розробку та розгортання
NVIDIA H200 NVL поставляється з п'ятирічною підпискою NVIDIA AI Enterprise та полегшує спосіб створення корпоративної платформи штучного інтелекту. H200 прискорює розробку та розгортання штучного інтелекту для готових до виробництва генеративних рішень штучного інтелекту, включаючи комп'ютерний зір, мовний штучний інтелект, розширену генерацію (RAG) та багато іншого. NVIDIA Al Enterprise включає NVIDIA NIM™, набір простих у використанні мікросервісів, розроблених для прискорення розгортання корпоративного генеративного штучного інтелекту. Разом розгортання мають корпоративну безпеку, керованість, стабільність та підтримку. Це призводить до оптимізованих за продуктивністю рішень ІІ, які швидше забезпечують бізнес-цінність та корисні ідеї.
