Прорывной универсальный ускоритель для эффективного видео, ИИ и графики
Благодаря платформе ИИ NVIDIA и комплексному подходу L4 оптимизирован для видео и вывода в масштабе для широкого спектра приложений ИИ, включая рекомендации, голосовых помощников-аватаров ИИ, генеративный ИИ, визуальный поиск и автоматизацию контакт-центров для предоставления наилучшего персонализированного опыта. Как самый эффективный ускоритель NVIDIA для массового рынка, серверы, оснащенные L4, обеспечивают до 120 раз более высокую производительность ИИ-видео по сравнению с решениями на базе ЦП, обеспечивая при этом в 2,7 раза большую производительность генеративного ИИ и более чем в 4 раза большую графическую производительность по сравнению с предыдущим поколением. Универсальность и энергоэффективный однослотовый низкопрофильный форм-фактор NVIDIA L4 делают его идеальным для глобальных развертываний, включая периферийные местоположения.
Поскольку ИИ и видео становятся все более распространенными, спрос на эффективные и экономичные вычисления растет как никогда. Графические процессоры NVIDIA L4 обеспечивают до 99% более высокую энергоэффективность и более низкую совокупную стоимость владения по сравнению с традиционной инфраструктурой на базе ЦП. Это позволяет предприятиям сократить пространство в стойках и значительно снизить общий углеродный след, делая свои центры обработки данных способными масштабироваться для гораздо большего числа пользователей. Энергия, сэкономленная при переходе с ЦП на NVIDIA L4 в 2-мегаваттном (МВт) центре обработки данных, может обеспечить питанием более 2000 домов в течение одного года или углеродную компенсацию от 172 000 деревьев, выращенных за 10 лет*.
Тензорные ядра четвертого поколения
Новые тензорные ядра архитектуры Ada Lovelace предназначены для ускорения преобразующих технологий ИИ, таких как интеллектуальные чат-боты, генеративный ИИ, обработка естественного языка (NLP), компьютерное зрение и NVIDIA Deep Learning Super Sampling 3.0 (DLSS 3). Тензорные ядра Ada Lovelace раскрывают структурированную разреженность и точность 8-битных операций с плавающей точкой (FP8) для повышения производительности вывода до 4 раз по сравнению с предыдущим поколением1. FP8 снижает нагрузку на память по сравнению с более высокими точность и значительно ускоряет пропускную способность ИИ.
Ядра RT третьего поколения
NVIDIA сделала трассировку лучей в реальном времени реальностью с изобретением ядер RT, вычислительных ядер на графическом процессоре, специально разработанных для решения задач рендеринга трассировки лучей с высокой производительностью. Ядра RT третьего поколения Ada Lovelace имеют вдвое большую пропускную способность пересечения лучей и треугольников, увеличивая производительность RT-TFLOP более чем в 2 раза. NVIDIA Shader Execution Reordering (SER) повышает производительность более чем в 3 раза, обеспечивая глубокие погружения в виртуальные миры и беспрецедентную производительность для нейронной графики на основе ИИ и облачных игр.
Расширенное ускорение видео и визуального ИИ
Благодаря оптимизированному стеку AV1 NVIDIA L4 выводит ускорение видео и визуального ИИ на новый уровень, создавая широкий спектр новых возможностей для таких вариантов использования, как перекодирование видео в реальном времени, потоковая передача, видеоконференции, дополненная реальность (AR), виртуальная реальность (VR) и визуальный ИИ. Благодаря четырем видеодекодерам и двум видеокодерам в сочетании с видеоформатом AV1 серверы L4 могут размещать более 10002 одновременных видеопотоков и более чем в 120 раз большую производительность сквозного конвейера видео ИИ, чем решения на базе ЦП3. Вдобавок к этому четыре декодера JPEG еще больше ускоряют приложения, которым требуются вычислительные мощности компьютерного зрения.